[Armin]

Тема-побратим.
ScanKromsator Программа для обработки сканов книг. Вопросы, советы, хитрости, обсуждение.

Сетевой каталог отсканированной литературы от Wer666 (пока без ссылки, ищем сетевой ресурс).

Чтобы посмотреть выложенную в данной теме литературу (все вложения в данной теме) заходим в раздел "Поиск литературы, чертежей, моделей и прочих материалов". Возле названия темы "Ваши сканы, наша обработка и перевод в DJVU" жмём на изображение скрепки (см. рис).




КРЫЛОВ СМ - Экспериментальное исследование работы железобетонных перекрытий каркасных зданий (статья).
Руководство по проектированию свайных фундаментов 1980
Клейн ГК = Расчет подпорных стен_1964 OCR HypLink (версия от Armin)
ДПМ-Пульс-01_60 (серия по противопожарным дверям)
Пособия по проектированию ЖБК без предварительного напряжения
СНиП 3.02.01-87 Земляные сооружения, основания и фундаменты (2007)
СНиП 2.02.01-83* Основания зданий и сооружений (не окончательная версия)
Макаров ЕВ Светлаков НД = Справочные таблицы весов строительных материалов (версия от Armin)
Строительные работы в зимних условиях Справочное пособие 1953
Пешковский ОИ "Технология изготовления металлических конструкций"
Мурашев ВИ "Трещиноустойчивость, жесткость и прочность железобетона" 1950 (версия от Armin)
Слицкоухов Ю.В. Индустриальные деревянные конструкции 1991 (версия от Armin)
Филиппов Н.А. Константинов И.А. Примеры расчёта и проектирования деревянных конструкций. 1965 (версия от ЛАО)
Арленинов Д.К. и др. Конструкции из дерева и пластмасс. 2002 (версия от ЛАО)
Арленинов Д.К. и др. Конструкции из дерева и пластмасс. 2002 (версия от Armin)
пока до #160

Старое название темы.
Умеeшь сканировать, но не умеешь обрабатывать сканы и переводить в DJVU? Постараемся помочь.

Про ценность отсканированной литературы, выкладываемой в общий доступ, понятно всем.

У многих есть возможность отсканировать и выложить необработанные сканы в инете (на файлообменниках и т.п.).
Но вот умения/возможности/времени обработать сканы (удалить мусор, на страницы порезать, перевести всё это в формат DJVU и т.д.) нет.

У меня есть предложение для таких людей.
Выкладывайте свои сканы, а я (и другие заинтересованные формучане) поможем вам обработать данные растровые файлы и поможем привести в божеский вид.

Естественно всё один я не потяну и интересны мне в основном книги связанные с проектированием (расчет/конструирование) железобетонных и прочих конструкций, зданий и сооружений (особенно старые, годов с 30-ых).

Предлагаю выкладывать в данной теме название книги, которую Вы имеете возможность отсканировать + один отсканированный лист, чтоб была возможность подсказать, как лучше сделать (в каком лучше разрешении и формате сканировать, чтоб получился хороший результат).

Статьи по поводу сканирования с http://djvu-soft.narod.ru

Сканирование бумажной книги. В результате получаются т.н. "сырые сканы"- серые или цветные необработанные изображения страниц книги. Смысл - получение "сырья" для будущей электронной книги. Рекомендуемая программа - Irfan View.

1. Не используйте программу ABBYY FineReader версий 7, 8 или ниже для сканирования книг. Она корёжит получаемые скан-изображения страниц книги. Можно использовать программу ABBYY FineReader 9 для этого - но перед сканированием сбросьте там в опциях галку "Исправлять перекос страниц".

2. Не сканируйте книги в чёрно-белом режиме (Black-White или Line Art или 1-bit), а ТОЛЬКО в режиме серого (Greyscale, или 8-bit) или цветного (Color, или 32-bit) - если книга содержит цветные рисунки. Сканирование в чёрно-белом режиме приводит в итоге к необратимому ухудшению качества получаемой DjVu-эл.книги. Данный режим сканирования задаётся в интерфейсе сканера - т.е. в том окне, которое появляется после нажатия в программе кнопки "Сканировать".

3. Не сканируйте в формат JPG. Формат JPG "размывает" скан-изображения страниц книги.

4. Не используйте опцию "Заменять неуверенно-распознанные символы их изображениями" - когда создаёте Pdf-эл.книгу в ABBYY FineReader - такие эл. книги выглядят ужасно.

5. Сканируйте книги в формат TIF и с разрешением не менее 300 DPI. Для наиболее высокого качества сканируйте с разрешением 600 DPI.

Эта мини-инструкция в картинках, описывающая полный цикл создания электронной версии научно-технической книги, и предназначена для человека, искренне захотевшего сделать приемлемого качества е-книгу, но не знающего с чего начать. Важно понимать, что существует немало апробированных методов создания достаточно качественных e-книг, все они характеризуются тем, что на выходе книга, как правило, научно-техническая, имеет разрешения 600 dpi ч/б (все книги в 300 dpi ч/б, несмотря на все старания создателей, явно проигрывают в качестве).

Рассматриваемая здесь метода, основана на сканировании в 300 dpi, в градациях серого (600 dpi ч/б будет после обработки). По этому поводу следует заметить, что уменьшение геометрического размера сырого скана в 4 раза, по сравнению со сканированием в 600 dpi, практически компенсируется увеличением глубины цвета в 8 раз (зато скорость сканирования возрастает в 2 раза ), а также уменьшением количества паразитного мусора (чистить практически не надо будет).

Беря в руки увесистую книгу, многие думают, что отсканировать ее может только маньяк. Совершенно верно, именно так. Без применения научно-организованного подхода, любая работа превращается в мучение, но, сделав работу незаметной, хоть большого удовольствия и не получишь, но дело сделаешь.

Для сканирования сгодится любая программа, способная взаимодействовать с TWAIN-драйвером сканера и сохранять отсканированные изображения на диск, нумеруя их удобным способом. Сойдет любой просмотровщик графических файлов: ACDSee, IrfanView, XnView… Если ваш сканер поддерживается программой сканирования VueScan, можете использовать и ее.

Например, в IrfanView (скачайте свежую версию этой бесплатной программы) это выглядит примерно так:
- В меню Файл жмем пункт Выбрать TWAIN-источник…
- Далее, там же, выбираем пункт меню Получить изображение/пакетное сканирование…

здесь выбираем, как будут нумероваться файлы сканов, где они будут складироваться и тип графического формата. Не забудем проверить Опции графического формата:

можно выбрать или Без сжатия или LZW (внимание, не все программы корректно с ним работают), в последнем случае размер файла на выходе будет примерно в два раза меньше. Можно, наверное, и ZIP, но это проверьте самостоятельно.
- жмем на кнопку OK и переходим в окно TWAIN Вашего сканера.

Сама техника сканирования незатейлива:
Берется книга, кладется разворотом (т.е. двумя страницами) на стекло, прижимается если надо сверху рукой (это быстрее, чем использовать груз).
Делается предварительное сканирование.
Картинка, если это возможно, в окне сканирования, разворачивается на 90 градусов (в нормальное положение).
Выбирается область сканирования с некоторым запасом, как правило по горизонтали (по вертикали трудно промахнутся).
Мышкой жмется кнопка основного сканирования.
После того, как данный разворот отсканирован, во время обратного движения каретки сканера, переворачиваем страницу книги, кладем на то же место и жмем опять на левую кнопку мыши (курсор ведь остался на кнопке сканирования), и так пока книга не кончится.

Т.е. идея проста, сканируем развороты вслепую. Этим достигаем максимальной скорости сканирования, которая ограничена только техническими характеристиками сканера, и полной свободы головы. Таким образом, во время сканирования, Вы можете заниматься многими другими вещами, да хоть кино посмотреть.

Небольших перекосов, отсканированных страниц, бояться не стоит, это будет исправлено при последующей обработке, но все же надо соблюдать аккуратность. Желательно всё ж таки серединку прижимать посильнее, исправление геометрических искажений строк здесь не будет рассмотрено.

Не забываем, что сканируем с разрешением 300 дпи и в градациях серого (greyscale), если будете сканировать в черно-белом режиме при 300 дпи, то просто потеряете время (хорошая книжка уже не получится).

На выходе этого этапа получаем так называемый сырой материал – файлы в формате tiff с разрешением 300 dpi в градациях серого, обычно размер каждого файла, без использования сжатия, составляет примерно 8 мегабайт (4 при LZW).

Скорость сканирования может достигать до 200 и даже более разворотов (400 страниц) в час, на сканере со скоростью 16 секунд на сканирование А4, т.е. сканирование среднестатистической книги, займет не более 2 часов времени! Ну, а если у Вас Plustek OpticBook 3600, то за час можно отсканировать более 500 страниц (250 разворотов).

Обычно первый и последний разворот книги содержат по одной странице. Ну, так и сканируем их по одной, т.е. все-таки придется сделать 3 предварительных сканирования на книгу .

Лично я раньше сканировал книги в формате tiff (CCITT Fax 4) 600 dpi ч/б. Приемлимо только для новых книг (белая бумага и чёткий текст и картинки).
У нас на работе инженерная машина (принтер/копир/сканер) только этот формат поддерживала. На данный момент аппаратуру обновили и сканирую только в tiff 600 dpi с оттенками серого или в цвете.
Повторюсь, что не надо сканировать в jpeg.
Самое лучшее - несжатый tiff в оттенках серого 600 dpi (чтоб по менее файлы весили можно использовать сжатие ZIP или LZW - потерь не будет).
В большинстве случаев хватит и разрешения 300 dpi при сканировании в формате tiff в оттенках серого.

Пересохранять файлы tiff с разным сжатием можно с помощью бесплатной программы Irfan View.

Многое зависит от качества бумажного оригинала.
По этому я и предлагаю для начала отсканировать из книги один лист/разворот и выложить в теме. Посмотрим на качество и сформулируем рекомендации для конкретного данного случая.

Жутко простая и жутко удобная программка на русском языке для обработки сканов Scan Tailor.
С хорошо сделанными сканами справляется на ура. Саму программу см. вложение scantailor-0.9.10-install.zip

Ссылка на программу СканКромсатор версии 5.91
Описание работы с программой СканКромсатор (ScanAndShare1.07, пдф-ка)
Полезныя ссылка на статью по поводу создания книг DJVU
Как сделать DJVU-книгу

Добавлено (февраль 2012).
По поводу внедрения текстового слоя (ссылку на статью убрал, ибо стала не рабочей).
Советую программу ABBYY FineReader 11.0. Открываем в ней книгу в формате DJVU, распознаём, сохраняем в DJVU (уже с текстовым слоем).
Раньше для внедрения текстового слоя приходилось использовать несколько программ, сейчас всё намного проще.
Ссылка на пост с программкой и инструкцией по её использованию для автоматического внедрения текстового слоя с помощью ABBYY FineReader 11.0 сразу в несколько книг (пакетная обработка). Благодарствие DEM
Сделать оглавление в книге можно легко с помощью Pdf & DjVu Bookmarker Просто попробуйте
Просьба. Если у кого есть в бумажном виде:
1) М.Я. Штаерман, А.М. Ивянский "Безбалочные перекрытия" 1953.
2) Голышев А. Б. и др. "Железобетонные конструкции" (часть I и часть 2) 2001
3) Железобетонные стены сейсмостойких зданий: Исследования и основы проектирования / под редакцией Г.Н. Ашкинадзе и М.Е. Соколова
Москва, Стройиздат, 1988
отсканируйте пожалуйста в хорошем разрешении (не менее 300 dpi) в tiff в оттенках серого.
На сайте уже есть эти книги, но не в очень хорошем качестве.
PPS: Самое основное и главное требование к сканам книг, которые вы делаете или будете делать и в дальнейшем выкладывать в общий доступ.
...
Делайте, как для себя.

http://djvu-spec.narod.ru
О том как правильно делать OCR в DJVU (FineReader 11)
Последний релиз Scantailor

[Armin]

Сообщение от PashaStr Выложил на яндексе. ОФМГ 2011-№1 http://yadi.sk/d/hCRD39cp2Ztt8 ОФМГ 2011-№2 http://yadi.sk/d/oqCr6F652ZuBi Бетон и железобетон 2011-01 http://yadi.sk/d/SaBM-rq-2ZuEe Бетон и железобетон 2011-02 http://yadi.sk/d/jfcBXlGc2ZuHo Бетон и железобетон 2012-02 http://yadi.sk/d/wD_PBfzF2ZuLw Бетон и железобетон 2012-05 http://yadi.sk/d/m_gHhQpr2ZuNM Качество может быть не очень, но читабельно. Ищу способ оптимального оцифровывания журналов (основная проблема сохранить чёткость картинок при сжатии в djvu или pdf), тренируюсь, так сказать. Скорее всего буду ещё выкладывать.

Если сканы-сырцы необработанные остались, просьба выложить на файлобменник.
Попробую поэкспериментировать с картинками. В Вашем варианте обработки журналов некоторые картинки в принципе не читаемы.

[PashaStr]

Сообщение от Armin Если сканы-сырцы необработанные остались, просьба выложить на файлобменник. Попробую поэкспериментировать с картинками. В Вашем варианте обработки журналов некоторые картинки в принципе не читаемы.

К сожалению самих сканов уже нет. В следующий раз опрометчиво удалять не буду.
Как вы обрабатываете такую литературу?
Я пробовал такие варианты:

• сканирование
• обработка в scantailor c сохранением в чёрно-белый/смешанный/серый вариант
• кодирование в djvu или pdf
• накладывание ocr на файл через finereader

Сканирую я с разрешением в 300dpi (нет возможности больше). При обработке в чёрно-белый tiff картинки часто получаются плохо читаемы. При сером варианте сама подложка под текстом получается серая (хотелось бы белую). При смешанном в scantailor есть возможность добавить зоны картинок, но вот убрать те зоны которые назначила программа у меня как-то не получается (образуются артефакты в самом тексте). Думаю поколупать изображения ScanKromsator'ом после обработки Scantailor'ом. Может быть получится.

[Armin]

Сообщение от PashaStr При смешанном в scantailor есть возможность добавить зоны картинок, но вот убрать те зоны которые назначила программа у меня как-то не получается (образуются артефакты в самом тексте).

Разберитесь со смешанным режимом в ScanTailor. Зоны можно вычитать.

Режим смешанный -> выделяем зону для вычитания из той, что автоопределилась

-> правой кнопкой мыши по нарисованной нами зоне -> свойства

-> вычесть из авто-слоя.

Теперь зоны нарисованные вручную будут вычитаться из автоматически проставленных.

Как вы обрабатываете такую литературу? Я пробовал такие варианты: 1) сканирование 2) обработка в scantailor c сохранением в чёрно-белый/смешанный/серый вариант 3) кодирование в djvu или pdf 4) накладывание ocr на файл через finereader

В большинстве случаев всё тоже самое.
Только 3) и 4) пункты теперь совмещены у меня.
Т.е. сую обработанные сканы в FineReader 11 -> распознаю -> сохраняю в DJVU с текстовым слоем.

[Кочетков Андрей]

Вышло минорное обновление нашего незаменимого помощника ScanKromsator 5.96.2
Искать на РуБорде (ссылка).

[PashaStr]

Armin, спасибо за подробное объяснение. Нашёл сканы журнала ОФМГ 2011 №2 (не всё удалить успел). Вот ссылка, если будет желание, что-то сделать http://yadi.sk/d/ODgwX_df2hlIt

[Armin]

Сообщение от PashaStr Armin, спасибо за подробное объяснение. Нашёл сканы журнала ОФМГ 2011 №2 (не всё удалить успел). Вот ссылка, если будет желание, что-то сделать http://yadi.sk/d/ODgwX_df2hlIt

Обработал (см. вложение).

Рекомендую разрешение при сканировании делать не менее 300 dpi в оттенках серого.
Можно потом сохранить со сжатием tiff LZW без потерь, чтоб вес уменьшить (для хранения сканов, как вариант).

На предоставленных сканах разрешение 150 dpi без сжатия в оттенках серого (256 цветов), что маловато для хорошего окончательного результат в виде книги DJVU.
При таком разрешении в обработанной версии будут трудно читаемы маленькие буквы (индексы, степени и пр.), может постирать точки, запятые, точки над "i" и "j" и пр. при автоматической обработке, труднее обрабатывать картинки (будут сильно размыты при сжатии).

Для примера. Нашёл журнал БиЖБ №2 за 2012-ый год и отсканировал в tiff 600 dpi в оттенках серого, потом дальнейшая обработка в ST и сжатие в DJVU.
Сканы-сырцы одного выпуска журнала весят несколько сотен мегабайт (это со сжатием LZW), зато результат на выходе меньше мегабайта.
Серые картинки (например стр.7) немного подобработал, добавил резкости и обвёл контуры чёрным (особенно видно на рис.3 стр.7) чтоб при сжатии было более читаемо (разделение на чёрный цвет контура и серый задний план, хорошо видно в программе WinDjView при применении сочетаний ctrl+shift+1 ; ctrl+shift+2 ; ctrl+shift+3).

[selega]

Не смог выложить в Download'е II том классического трехтомника А.П.Филина (пишет 413 Request Entity Too Large), поэтому выкладываю здесь.
Тома I и III можно найти в Интернете (для тех, кого заинтересует).

[PashaStr]

Armin хорошо у вас получается обрабатывать, намного лучше чем у меня.
Отсканировал последний выпуск журнала "Бетон и железобетон" №6 за 2012 год
Сканы http://yadi.sk/d/fwq3Jj7Z2lLyg (правда порезанные scantailor'ом и с увеличенным dpi, поэтому такой размер)
То что у меня из этого получилось http://yadi.sk/d/lnmVigYi2lMIY (правда пробовал обрабатывать кромсатором).
Armin у вас скорее всего получиться лучше. А какой версией скантейлора вы пользуетесь? Той что во вложении в шапке темы?

[Armin]

Сообщение от PashaStr Armin хорошо у вас получается обрабатывать, намного лучше чем у меня. Отсканировал последний выпуск журнала "Бетон и железобетон" №6 за 2012 год Сканы http://yadi.sk/d/fwq3Jj7Z2lLyg (правда порезанные scantailor'ом и с увеличенным dpi, поэтому такой размер)

См. вложение.

Сообщение от PashaStr А какой версией скантейлора вы пользуетесь? Той что во вложении в шапке темы?

[tankist]

Интересно как Scan Tailor обрабатывает изображения. При сканировании в 600 dpi сером и сохранении в ч.б. tif результат практически не отличается от обработки серого 600 dpi в Scan Tailor в ч.б. 600 dpi. Контуры только четче становятся после программы, что видно при большом увеличении.

[Нароленко]

сканы книги "Проектирование многоэтажных зданий с железобетонным каркасом. Э.Н. Кодыш, Н.Н. Трекин"
http://dfiles.ru/files/am1w98cvw

[selega]

Сообщение от Нароленко сканы книги "Проектирование многоэтажных зданий с железобетонным каркасом. Э.Н. Кодыш, Н.Н. Трекин"

Ну, вот, получилось как-то так...
Offtop: *удалить расширение flv*

[Paladin]

Люди, СканТейлор, просто убивает текст при обработке. Может я что-то не правильно делаю?

[Кочетков Андрей]

Сообщение от Paladin Люди, СканТейлор, просто убивает текст при обработке. Может я что-то не правильно делаю?

Бледные перемычки.
Либо предварительно в Фотошопе увеличить контраст, либо обрабатывать в СК.

Обработка скриншота в СК дает такой результат:

[Paladin]

Люди, а после обработки, во что все сжать? djvu Lizardtech DjVu Document Express Editor Pro build 1320 - цветные картинки просто убивает.
Вальтер Эрман, Вольфганг Нутч. Деревянные лестницы, 2009 г. (скан не мой, книга очень хорошая)
djvu
http://yadi.sk/d/4ThQOIS43An7C
pdf
http://yadi.sk/d/a-6xdRm93Ap0G


P.S>
Может кому интересно Пушкин, Александр Сергеевич - Песнь о вещем Олеге
В оригинале, не перевод
http://yadi.sk/d/Qb1TgQba3AkwW

[Armin]

Сообщение от Paladin Люди, а после обработки, во что все сжать? djvu Lizardtech DjVu Document Express Editor Pro build 1320 - цветные картинки просто убивает.

В DJVU цветные картинки сжимаются очень хреново. Если только со сжатием "foto", но тогда размер гигантский у книги получается.
"Цветастые" книги лучше в PDF загонять. Там разные форматы сжатия для цветных растров должны быть.
В PDF не сильно компетентен, тут к Андрею вопрос.

[eilukha]

"Цветастые" книги лучше в PDF загонять

- при этом безвозвратно теряется качество (по крайней мере при умолчательных настройках).

Может кому интересно Пушкин, Александр Сергеевич - Песнь о вещем Олеге В оригинале, не перевод http://yadi.sk/d/Qb1TgQba3AkwW

- сжалось в 3 раза без потери качества.

[Кочетков Андрей]

SK жмет и в DJVU и в PDF с разными профилями сжатия для картинок и текста.
http://forum.dwg.ru/showthread.php?p=879799#post879799

[Paladin]

вот я обработал и пересжал книгу (провожу эксперименты на малых книжечках, они не технические не все равно, даже технику стоит почитать)
Перро, Шарль - Шесть сказок для детей, 160 с., 24 л. 1845, в djvu

картинки даже черно белые все равно мертвые, но за то 5 Mb и смысл если она плохо читаемая.

http://yadi.sk/d/3Kwo1e-f3EUDM

мне почему то кажеться что все же нужен какой то формат который позволяет делать оптимальное качество при разумных размерах (не минимальных, а разумных). И DJVU не годиться (это исключительно мое мнение)

[Кочетков Андрей]

Сообщение от Paladin мне почему то кажеться что все же нужен какой то формат который позволяет делать оптимальное качество при разумных размерах (не минимальных, а разумных). И DJVU не годиться (это исключительно мое мнение)

Выкладывайте исходники - сделаю task для Кромсатора - покажу как DJVU делать.