| Правила | Регистрация | Пользователи | Поиск | Сообщения за день | Все разделы прочитаны |  Справка по форуму | Файлообменник |

Вернуться   Форум DWG.RU > Поиск литературы, чертежей, моделей и прочих материалов > Ваши сканы, наша обработка и перевод в DJVU.

Ваши сканы, наша обработка и перевод в DJVU.

Ответ
Поиск в этой теме
Непрочитано 29.07.2009, 10:34 16 |
Ваши сканы, наша обработка и перевод в DJVU.
Armin
 
Проектирование зданий и частей зданий
 
Екатеринбург
Регистрация: 12.06.2007
Сообщений: 3,042

Тема-побратим.
ScanKromsator Программа для обработки сканов книг. Вопросы, советы, хитрости, обсуждение.

Сетевой каталог отсканированной литературы от Wer666 (пока без ссылки, ищем сетевой ресурс).

Чтобы посмотреть выложенную в данной теме литературу (все вложения в данной теме) заходим в раздел "Поиск литературы, чертежей, моделей и прочих материалов". Возле названия темы "Ваши сканы, наша обработка и перевод в DJVU" жмём на изображение скрепки (см. рис).




КРЫЛОВ СМ - Экспериментальное исследование работы железобетонных перекрытий каркасных зданий (статья).
Руководство по проектированию свайных фундаментов 1980
Клейн ГК = Расчет подпорных стен_1964 OCR HypLink (версия от Armin)
ДПМ-Пульс-01_60 (серия по противопожарным дверям)
Пособия по проектированию ЖБК без предварительного напряжения
СНиП 3.02.01-87 Земляные сооружения, основания и фундаменты (2007)
СНиП 2.02.01-83* Основания зданий и сооружений (не окончательная версия)
Макаров ЕВ Светлаков НД = Справочные таблицы весов строительных материалов (версия от Armin)
Строительные работы в зимних условиях Справочное пособие 1953
Пешковский ОИ "Технология изготовления металлических конструкций"
Мурашев ВИ "Трещиноустойчивость, жесткость и прочность железобетона" 1950 (версия от Armin)
Слицкоухов Ю.В. Индустриальные деревянные конструкции 1991 (версия от Armin)
Филиппов Н.А. Константинов И.А. Примеры расчёта и проектирования деревянных конструкций. 1965 (версия от ЛАО)
Арленинов Д.К. и др. Конструкции из дерева и пластмасс. 2002 (версия от ЛАО)
Арленинов Д.К. и др. Конструкции из дерева и пластмасс. 2002 (версия от Armin)
пока до #160

Старое название темы.
Умеeшь сканировать, но не умеешь обрабатывать сканы и переводить в DJVU? Постараемся помочь.

Про ценность отсканированной литературы, выкладываемой в общий доступ, понятно всем.

У многих есть возможность отсканировать и выложить необработанные сканы в инете (на файлообменниках и т.п.).
Но вот умения/возможности/времени обработать сканы (удалить мусор, на страницы порезать, перевести всё это в формат DJVU и т.д.) нет.

У меня есть предложение для таких людей.
Выкладывайте свои сканы, а я (и другие заинтересованные формучане) поможем вам обработать данные растровые файлы и поможем привести в божеский вид.

Естественно всё один я не потяну и интересны мне в основном книги связанные с проектированием (расчет/конструирование) железобетонных и прочих конструкций, зданий и сооружений (особенно старые, годов с 30-ых).

Предлагаю выкладывать в данной теме название книги, которую Вы имеете возможность отсканировать + один отсканированный лист, чтоб была возможность подсказать, как лучше сделать (в каком лучше разрешении и формате сканировать, чтоб получился хороший результат).

Статьи по поводу сканирования с http://djvu-soft.narod.ru

Сканирование бумажной книги. В результате получаются т.н. "сырые сканы"- серые или цветные необработанные изображения страниц книги. Смысл - получение "сырья" для будущей электронной книги. Рекомендуемая программа - Irfan View.

1. Не используйте программу ABBYY FineReader версий 7, 8 или ниже для сканирования книг. Она корёжит получаемые скан-изображения страниц книги. Можно использовать программу ABBYY FineReader 9 для этого - но перед сканированием сбросьте там в опциях галку "Исправлять перекос страниц".

2. Не сканируйте книги в чёрно-белом режиме (Black-White или Line Art или 1-bit), а ТОЛЬКО в режиме серого (Greyscale, или 8-bit) или цветного (Color, или 32-bit) - если книга содержит цветные рисунки. Сканирование в чёрно-белом режиме приводит в итоге к необратимому ухудшению качества получаемой DjVu-эл.книги. Данный режим сканирования задаётся в интерфейсе сканера - т.е. в том окне, которое появляется после нажатия в программе кнопки "Сканировать".

3. Не сканируйте в формат JPG. Формат JPG "размывает" скан-изображения страниц книги.

4. Не используйте опцию "Заменять неуверенно-распознанные символы их изображениями" - когда создаёте Pdf-эл.книгу в ABBYY FineReader - такие эл. книги выглядят ужасно.

5. Сканируйте книги в формат TIF и с разрешением не менее 300 DPI. Для наиболее высокого качества сканируйте с разрешением 600 DPI.

Эта мини-инструкция в картинках, описывающая полный цикл создания электронной версии научно-технической книги, и предназначена для человека, искренне захотевшего сделать приемлемого качества е-книгу, но не знающего с чего начать. Важно понимать, что существует немало апробированных методов создания достаточно качественных e-книг, все они характеризуются тем, что на выходе книга, как правило, научно-техническая, имеет разрешения 600 dpi ч/б (все книги в 300 dpi ч/б, несмотря на все старания создателей, явно проигрывают в качестве).

Рассматриваемая здесь метода, основана на сканировании в 300 dpi, в градациях серого (600 dpi ч/б будет после обработки). По этому поводу следует заметить, что уменьшение геометрического размера сырого скана в 4 раза, по сравнению со сканированием в 600 dpi, практически компенсируется увеличением глубины цвета в 8 раз (зато скорость сканирования возрастает в 2 раза ), а также уменьшением количества паразитного мусора (чистить практически не надо будет).

Беря в руки увесистую книгу, многие думают, что отсканировать ее может только маньяк. Совершенно верно, именно так. Без применения научно-организованного подхода, любая работа превращается в мучение, но, сделав работу незаметной, хоть большого удовольствия и не получишь, но дело сделаешь.

Для сканирования сгодится любая программа, способная взаимодействовать с TWAIN-драйвером сканера и сохранять отсканированные изображения на диск, нумеруя их удобным способом. Сойдет любой просмотровщик графических файлов: ACDSee, IrfanView, XnView… Если ваш сканер поддерживается программой сканирования VueScan, можете использовать и ее.

Например, в IrfanView (скачайте свежую версию этой бесплатной программы) это выглядит примерно так:
- В меню Файл жмем пункт Выбрать TWAIN-источник…
- Далее, там же, выбираем пункт меню Получить изображение/пакетное сканирование…

здесь выбираем, как будут нумероваться файлы сканов, где они будут складироваться и тип графического формата. Не забудем проверить Опции графического формата:

можно выбрать или Без сжатия или LZW (внимание, не все программы корректно с ним работают), в последнем случае размер файла на выходе будет примерно в два раза меньше. Можно, наверное, и ZIP, но это проверьте самостоятельно.
- жмем на кнопку OK и переходим в окно TWAIN Вашего сканера.

Сама техника сканирования незатейлива:
Берется книга, кладется разворотом (т.е. двумя страницами) на стекло, прижимается если надо сверху рукой (это быстрее, чем использовать груз).
Делается предварительное сканирование.
Картинка, если это возможно, в окне сканирования, разворачивается на 90 градусов (в нормальное положение).
Выбирается область сканирования с некоторым запасом, как правило по горизонтали (по вертикали трудно промахнутся).
Мышкой жмется кнопка основного сканирования.
После того, как данный разворот отсканирован, во время обратного движения каретки сканера, переворачиваем страницу книги, кладем на то же место и жмем опять на левую кнопку мыши (курсор ведь остался на кнопке сканирования), и так пока книга не кончится.

Т.е. идея проста, сканируем развороты вслепую. Этим достигаем максимальной скорости сканирования, которая ограничена только техническими характеристиками сканера, и полной свободы головы. Таким образом, во время сканирования, Вы можете заниматься многими другими вещами, да хоть кино посмотреть.

Небольших перекосов, отсканированных страниц, бояться не стоит, это будет исправлено при последующей обработке, но все же надо соблюдать аккуратность. Желательно всё ж таки серединку прижимать посильнее, исправление геометрических искажений строк здесь не будет рассмотрено.

Не забываем, что сканируем с разрешением 300 дпи и в градациях серого (greyscale), если будете сканировать в черно-белом режиме при 300 дпи, то просто потеряете время (хорошая книжка уже не получится).

На выходе этого этапа получаем так называемый сырой материал – файлы в формате tiff с разрешением 300 dpi в градациях серого, обычно размер каждого файла, без использования сжатия, составляет примерно 8 мегабайт (4 при LZW).

Скорость сканирования может достигать до 200 и даже более разворотов (400 страниц) в час, на сканере со скоростью 16 секунд на сканирование А4, т.е. сканирование среднестатистической книги, займет не более 2 часов времени! Ну, а если у Вас Plustek OpticBook 3600, то за час можно отсканировать более 500 страниц (250 разворотов).

Обычно первый и последний разворот книги содержат по одной странице. Ну, так и сканируем их по одной, т.е. все-таки придется сделать 3 предварительных сканирования на книгу .


Лично я раньше сканировал книги в формате tiff (CCITT Fax 4) 600 dpi ч/б. Приемлимо только для новых книг (белая бумага и чёткий текст и картинки).
У нас на работе инженерная машина (принтер/копир/сканер) только этот формат поддерживала. На данный момент аппаратуру обновили и сканирую только в tiff 600 dpi с оттенками серого или в цвете.
Повторюсь, что не надо сканировать в jpeg.
Самое лучшее - несжатый tiff в оттенках серого 600 dpi (чтоб по менее файлы весили можно использовать сжатие ZIP или LZW - потерь не будет).
В большинстве случаев хватит и разрешения 300 dpi при сканировании в формате tiff в оттенках серого.

Пересохранять файлы tiff с разным сжатием можно с помощью бесплатной программы Irfan View.

Многое зависит от качества бумажного оригинала.
По этому я и предлагаю для начала отсканировать из книги один лист/разворот и выложить в теме. Посмотрим на качество и сформулируем рекомендации для конкретного данного случая.

Жутко простая и жутко удобная программка на русском языке для обработки сканов Scan Tailor.
С хорошо сделанными сканами справляется на ура. Саму программу см. вложение scantailor-0.9.10-install.zip


Ссылка на программу СканКромсатор версии 5.91
Описание работы с программой СканКромсатор (ScanAndShare1.07, пдф-ка)
Полезныя ссылка на статью по поводу создания книг DJVU
Как сделать DJVU-книгу

Добавлено (февраль 2012).
По поводу внедрения текстового слоя (ссылку на статью убрал, ибо стала не рабочей).
Советую программу ABBYY FineReader 11.0. Открываем в ней книгу в формате DJVU, распознаём, сохраняем в DJVU (уже с текстовым слоем).
Раньше для внедрения текстового слоя приходилось использовать несколько программ, сейчас всё намного проще.

Ссылка на пост с программкой и инструкцией по её использованию для автоматического внедрения текстового слоя с помощью ABBYY FineReader 11.0 сразу в несколько книг (пакетная обработка). Благодарствие DEM
Сделать оглавление в книге можно легко с помощью Pdf & DjVu Bookmarker Просто попробуйте
Просьба. Если у кого есть в бумажном виде:
1) М.Я. Штаерман, А.М. Ивянский "Безбалочные перекрытия" 1953.
2) Голышев А. Б. и др. "Железобетонные конструкции" (часть I и часть 2) 2001
3) Железобетонные стены сейсмостойких зданий: Исследования и основы проектирования / под редакцией Г.Н. Ашкинадзе и М.Е. Соколова
Москва, Стройиздат, 1988

отсканируйте пожалуйста в хорошем разрешении (не менее 300 dpi) в tiff в оттенках серого.
На сайте уже есть эти книги, но не в очень хорошем качестве.

PPS: Самое основное и главное требование к сканам книг, которые вы делаете или будете делать и в дальнейшем выкладывать в общий доступ.
...
Делайте, как для себя.


http://djvu-spec.narod.ru
О том как правильно делать OCR в DJVU (FineReader 11)
Последний релиз Scantailor

Миниатюры
Нажмите на изображение для увеличения
Название: загрузка_1.jpg
Просмотров: 115573
Размер:	91.6 Кб
ID:	86765  Нажмите на изображение для увеличения
Название: загрузка_2.jpg
Просмотров: 114374
Размер:	95.5 Кб
ID:	86766  

Вложения
Тип файла: zip scantailor-0.9.11-32bit-install.zip (5.07 Мб, 1430 просмотров)

__________________
«Точно знают, только когда мало знают. Вместе со знанием растет сомнение». Иоганн Вольфганг Гете

Последний раз редактировалось Armin, 25.12.2019 в 06:25.
Просмотров: 1961794
 
Непрочитано 17.05.2018, 22:41
#3041
andriadi

геолог
 
Регистрация: 30.01.2016
КМВ
Сообщений: 147


Цитата:
Сообщение от eilukha Посмотреть сообщение
andriadi, не бывает распознанных формул в принципе. Приведите пример обратного, если не согласны. Для того джвю и нужен, чтобы картинки и формулы отображать.
FR 12 pdf позволяет корректно копировать формулы в отличие от djvu (проверил на файле Кузнецова)
andriadi вне форума  
 
Непрочитано 18.05.2018, 08:27
#3042
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Файл примера приложите.
eilukha вне форума  
 
Непрочитано 18.05.2018, 08:52
#3043
selega

строительная наука и практика
 
Регистрация: 12.09.2008
Минск, Беларусь
Сообщений: 868


Цитата:
Сообщение от ILIYA Посмотреть сообщение
Ну, вот как-то так...
Тяжеловаты для обоих форматов, много мусора осталось, но читабельно, даже графиками можно пользоваться при желании.
pdf https://yadi.sk/i/O6nZTwTA3W77vG
djvu https://yadi.sk/i/XRvdgekQ3W77ri

Если наши гуру возьмутся, у них получше выйдет.
selega вне форума  
 
Непрочитано 18.05.2018, 10:01
#3044
andriadi

геолог
 
Регистрация: 30.01.2016
КМВ
Сообщений: 147


Цитата:
Сообщение от eilukha Посмотреть сообщение
Файл примера приложите.
https://www.twirpx.com/file/2531820/

----- добавлено через ~7 мин. -----
Цитата:
Сообщение от selega Посмотреть сообщение
Совсем плохой
andriadi вне форума  
 
Непрочитано 18.05.2018, 10:13
#3045
ILIYA

Проектант или Вечный ученик
 
Регистрация: 06.05.2011
Сообщений: 802


Цитата:
Сообщение от selega Посмотреть сообщение
Ну, вот как-то так...
Спасибо большое, огромное Вам уважение!!!
ILIYA вне форума  
 
Непрочитано 18.05.2018, 10:53
#3046
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Цитата:
Сообщение от andriadi Посмотреть сообщение
Цитата:
Сообщение от eilukha
Файл примера приложите.
https://www.twirpx.com/file/2531820/
- какая там конкретно формула успешно распознана?
Вот пример распознавания формул из Вашего файла:
Цитата:
(...) в нормах [2] приведены следующие соотношения:

при 0 < X < 2,5 (X = X^jRy/E ) ср = 1 -(/,073 - 5,53-^-jl-y/l ; при 2,5 < X < 4,5
ф = 1,47 - 13,(4 ” (°’371 “ 27,3~Е + (°’°275 " 5>53^г)^ ;
при 4,5 < X
332

Формула (4.2) составлена (...)
Миниатюры
Нажмите на изображение для увеличения
Название: 222.png
Просмотров: 104
Размер:	65.4 Кб
ID:	202368  
eilukha вне форума  
 
Непрочитано 18.05.2018, 11:04
#3047
andriadi

геолог
 
Регистрация: 30.01.2016
КМВ
Сообщений: 147


Цитата:
Сообщение от eilukha Посмотреть сообщение
какая там конкретно формула успешно распознана?
Согласен, pdf чуть лучше чем в djvu. Но хотя бы поддается редактированию

Последний раз редактировалось andriadi, 18.05.2018 в 11:05. Причина: добавление
andriadi вне форума  
 
Непрочитано 18.05.2018, 11:24
#3048
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Цитата:
Сообщение от andriadi Посмотреть сообщение
pdf чуть лучше чем в djvu
- чем? Ваш вариант с одним томом справочника Кузнецова в пдф весит сколько же сколько три тома в джвю при равном качестве.
Цитата:
Сообщение от andriadi Посмотреть сообщение
поддается редактированию
- что?

Последний раз редактировалось eilukha, 18.05.2018 в 11:30.
eilukha вне форума  
 
Непрочитано 18.05.2018, 12:55
#3049
andriadi

геолог
 
Регистрация: 30.01.2016
КМВ
Сообщений: 147


Цитата:
Сообщение от eilukha Посмотреть сообщение
- чем? Ваш вариант с одним томом справочника Кузнецова в пдф весит сколько же сколько три тома в джвю при равном качестве.
- что?
Понукать будете дома
andriadi вне форума  
 
Непрочитано 18.05.2018, 14:22
#3050
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Понуканий не было, думал обменяться опытом.
eilukha вне форума  
 
Непрочитано 18.05.2018, 16:11 Без понуканий!
1 | 2 #3051
Pete

Динозавр на пенсии
 
Регистрация: 23.03.2005
Сообщений: 932


Оформление трех толстых томов в один - маразм! Т. к. затрудняет оперативный поиск нужной информации! Не нужно путать электронный документ с бумажным.
О распознании формул. Сегодня профессиональное распознание математических формул средствами OCR - нереально! Из личного опыта: и при переводе формул из специализированного редактора MathType 5.Х на язык MathML (Mathematical Markup Language) получается много ошибок в части распознания функций (зависит от личных настроек пользователя) и символов, плюс человеческий фактор при наборе выражений в MathType 5.Х... Много ручной работы!
Просто, профессиональное оформление мат. формул позволяет выполнять программно расчеты непосредственно в текстовом редакторе MS Word (после 2007-го).
__________________
Динозавр здравого смысла...
Pete вне форума  
 
Непрочитано 18.05.2018, 16:55
1 | 2 #3052
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Цитата:
Сообщение от Pete Посмотреть сообщение
затрудняет оперативный поиск нужной информации
- при наличии OCR (и соответственно полнотекстового поиска), а так же при наличии ссылочного оглавления с точностью до наоборот. Т. к. не надо думать что и в каком томе находится, а просто за раз поиском найти нужное (и по смежным темам) в во всех трёх томах. Либо наглядно пройтись по главам в структуре ссылочного оглавления.
Цитата:
Сообщение от Pete Посмотреть сообщение
профессиональное оформление мат. формул позволяет выполнять программно расчеты
- профессиональнее это делать в маткаде.

Последний раз редактировалось eilukha, 18.05.2018 в 17:17.
eilukha вне форума  
 
Непрочитано 18.05.2018, 18:45
#3053
Pete

Динозавр на пенсии
 
Регистрация: 23.03.2005
Сообщений: 932


Цитата:
Сообщение от eilukha Посмотреть сообщение
- при наличии OCR (и соответственно полнотекстового поиска), а так же при наличии ссылочного оглавления с точностью до наоборот.
Качественное оформление текста после оптического распознания требует кропотливой вычитки и корректировки! Иначе поиск коряво работает! Испытано! Предпочитаю сканы без OCR...
Цитата:
Сообщение от eilukha Посмотреть сообщение
- профессиональнее это делать в маткаде.
Профессиональнее в текст вставлять картинки вместо "распознанных" формул! Предпочитаю делать "сложные расчеты" в MS Excel (без VBA) и вставлять таблицы в MS Word(т. н., ручной расчет)!
__________________
Динозавр здравого смысла...
Pete вне форума  
 
Непрочитано 18.05.2018, 19:17
1 | 1 #3054
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Цитата:
Сообщение от Pete Посмотреть сообщение
поиск коряво работает!
- причина сему тут. Никакой кропотливой работы или вычитки для качественного ОСR не требуется.
eilukha вне форума  
 
Непрочитано 18.05.2018, 20:17
#3055
Pete

Динозавр на пенсии
 
Регистрация: 23.03.2005
Сообщений: 932


Цитата:
Сообщение от eilukha Посмотреть сообщение
- причина сему тут. Никакой кропотливой работы или вычитки для качественного ОСR не требуется.
Мягкие переносы и двойные пробелы - не единственные проблемы при распознании текста. Многое зависит от качества бумажного первоисточника и сканов. По-моему, OCR технических книг - неблагодарное дело!
Предпочитаю на предварительном этапе делать только постраничное распознание (FR 11) аннотации и оглавления книг со всеми техническими и математическими символами и хранить в отд. вордовских документах. Очистка текста осуществляется при помощи собственных макросов...
При работе со сканами книг этот файл, по мере необходимости, пополняется фрагментами текста и т. п. Систематизированная, под себя, электронная библиотека насчитывает более 2000 томов (лень считать).
__________________
Динозавр здравого смысла...
Pete вне форума  
 
Непрочитано 19.05.2018, 09:42
#3056
andriadi

геолог
 
Регистрация: 30.01.2016
КМВ
Сообщений: 147


Вот пример как человек работал в FR 8:

Прменительно к этому файлу.
Распознавал в FineReader 8. На этапе задания зон распознавания удалил все зоны картинок и во всех текстовых зонах, куда попадали формулы с потенциальными проблемами в распознавании, менял границы зон с тем, чтобы вывести эти формулы за пределы зоны (работа ручная и геморройная). Далее распознал то что осталось и исправил все ошибки распознавания (работа тоже ручная, но не такая геморройная, т.к. сканы были качественные и чистые).
andriadi вне форума  
 
Непрочитано 19.05.2018, 10:15
1 | 1 #3057
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Цель наложения OCR - поиск по тексту, а также копирование текста из текстовых областей. Наличие в OCR неверно распознанных нетекстовых областей (формулы и картинки) не мешает достижению обоих целей, а лишь увеличивает размер файла на несколько килобайт (для большой книги).
Хорошо было бы автоматически удалить все нетекстовые области распознавания, которые FR ошибочно принял за тестовые, но такой функции нет.
Отчасти помогает автоматический поиск и удаление символов подобных этим: ~`@#$^&|<>+= (которые обычно появляются когда FR принимает нетекстовую область за текстовую и пытается её распознать).
eilukha вне форума  
 
Непрочитано 19.05.2018, 19:29
2 | #3058
poobschatso


 
Регистрация: 28.04.2018
Беларусь
Сообщений: 169


Сделал закладки оглавления на книгу отсюда https://dwg.ru/dnl/3217
poobschatso вне форума  
 
Непрочитано 05.06.2018, 19:02
#3059
eilukha


 
Регистрация: 10.09.2007
Сообщений: 10,592


Вариант обработки книги Расчёт балок и плит на упругом основании за пределом упругости.
Вложения
Тип файла: djvu Синицын_Расчет балок и плит на УО_1974.djvu (2.59 Мб, 421 просмотров)
eilukha вне форума  
 
Непрочитано 15.06.2018, 20:49
1 | #3060
poobschatso


 
Регистрация: 28.04.2018
Беларусь
Сообщений: 169


Не нашел здесь в pdf, буду делать оглавление, но не сегодня-завтра, поэтому выложу пока что есть. Качество отличается от djvu на сайте.
Справочник конструктора. Стальные конструкции 2010 - Будур

Заменил на файл с закладками

Последний раз редактировалось poobschatso, 01.07.2018 в 12:32.
poobschatso вне форума  
Ответ
Вернуться   Форум DWG.RU > Поиск литературы, чертежей, моделей и прочих материалов > Ваши сканы, наша обработка и перевод в DJVU.

Размещение рекламы
Опции темы Поиск в этой теме
Поиск в этой теме:

Расширенный поиск