[Armin]

Тема-побратим.
ScanKromsator Программа для обработки сканов книг. Вопросы, советы, хитрости, обсуждение.

Сетевой каталог отсканированной литературы от Wer666 (пока без ссылки, ищем сетевой ресурс).

Чтобы посмотреть выложенную в данной теме литературу (все вложения в данной теме) заходим в раздел "Поиск литературы, чертежей, моделей и прочих материалов". Возле названия темы "Ваши сканы, наша обработка и перевод в DJVU" жмём на изображение скрепки (см. рис).




КРЫЛОВ СМ - Экспериментальное исследование работы железобетонных перекрытий каркасных зданий (статья).
Руководство по проектированию свайных фундаментов 1980
Клейн ГК = Расчет подпорных стен_1964 OCR HypLink (версия от Armin)
ДПМ-Пульс-01_60 (серия по противопожарным дверям)
Пособия по проектированию ЖБК без предварительного напряжения
СНиП 3.02.01-87 Земляные сооружения, основания и фундаменты (2007)
СНиП 2.02.01-83* Основания зданий и сооружений (не окончательная версия)
Макаров ЕВ Светлаков НД = Справочные таблицы весов строительных материалов (версия от Armin)
Строительные работы в зимних условиях Справочное пособие 1953
Пешковский ОИ "Технология изготовления металлических конструкций"
Мурашев ВИ "Трещиноустойчивость, жесткость и прочность железобетона" 1950 (версия от Armin)
Слицкоухов Ю.В. Индустриальные деревянные конструкции 1991 (версия от Armin)
Филиппов Н.А. Константинов И.А. Примеры расчёта и проектирования деревянных конструкций. 1965 (версия от ЛАО)
Арленинов Д.К. и др. Конструкции из дерева и пластмасс. 2002 (версия от ЛАО)
Арленинов Д.К. и др. Конструкции из дерева и пластмасс. 2002 (версия от Armin)
пока до #160

Старое название темы.
Умеeшь сканировать, но не умеешь обрабатывать сканы и переводить в DJVU? Постараемся помочь.

Про ценность отсканированной литературы, выкладываемой в общий доступ, понятно всем.

У многих есть возможность отсканировать и выложить необработанные сканы в инете (на файлообменниках и т.п.).
Но вот умения/возможности/времени обработать сканы (удалить мусор, на страницы порезать, перевести всё это в формат DJVU и т.д.) нет.

У меня есть предложение для таких людей.
Выкладывайте свои сканы, а я (и другие заинтересованные формучане) поможем вам обработать данные растровые файлы и поможем привести в божеский вид.

Естественно всё один я не потяну и интересны мне в основном книги связанные с проектированием (расчет/конструирование) железобетонных и прочих конструкций, зданий и сооружений (особенно старые, годов с 30-ых).

Предлагаю выкладывать в данной теме название книги, которую Вы имеете возможность отсканировать + один отсканированный лист, чтоб была возможность подсказать, как лучше сделать (в каком лучше разрешении и формате сканировать, чтоб получился хороший результат).

Статьи по поводу сканирования с http://djvu-soft.narod.ru

Сканирование бумажной книги. В результате получаются т.н. "сырые сканы"- серые или цветные необработанные изображения страниц книги. Смысл - получение "сырья" для будущей электронной книги. Рекомендуемая программа - Irfan View.

1. Не используйте программу ABBYY FineReader версий 7, 8 или ниже для сканирования книг. Она корёжит получаемые скан-изображения страниц книги. Можно использовать программу ABBYY FineReader 9 для этого - но перед сканированием сбросьте там в опциях галку "Исправлять перекос страниц".

2. Не сканируйте книги в чёрно-белом режиме (Black-White или Line Art или 1-bit), а ТОЛЬКО в режиме серого (Greyscale, или 8-bit) или цветного (Color, или 32-bit) - если книга содержит цветные рисунки. Сканирование в чёрно-белом режиме приводит в итоге к необратимому ухудшению качества получаемой DjVu-эл.книги. Данный режим сканирования задаётся в интерфейсе сканера - т.е. в том окне, которое появляется после нажатия в программе кнопки "Сканировать".

3. Не сканируйте в формат JPG. Формат JPG "размывает" скан-изображения страниц книги.

4. Не используйте опцию "Заменять неуверенно-распознанные символы их изображениями" - когда создаёте Pdf-эл.книгу в ABBYY FineReader - такие эл. книги выглядят ужасно.

5. Сканируйте книги в формат TIF и с разрешением не менее 300 DPI. Для наиболее высокого качества сканируйте с разрешением 600 DPI.

Эта мини-инструкция в картинках, описывающая полный цикл создания электронной версии научно-технической книги, и предназначена для человека, искренне захотевшего сделать приемлемого качества е-книгу, но не знающего с чего начать. Важно понимать, что существует немало апробированных методов создания достаточно качественных e-книг, все они характеризуются тем, что на выходе книга, как правило, научно-техническая, имеет разрешения 600 dpi ч/б (все книги в 300 dpi ч/б, несмотря на все старания создателей, явно проигрывают в качестве).

Рассматриваемая здесь метода, основана на сканировании в 300 dpi, в градациях серого (600 dpi ч/б будет после обработки). По этому поводу следует заметить, что уменьшение геометрического размера сырого скана в 4 раза, по сравнению со сканированием в 600 dpi, практически компенсируется увеличением глубины цвета в 8 раз (зато скорость сканирования возрастает в 2 раза ), а также уменьшением количества паразитного мусора (чистить практически не надо будет).

Беря в руки увесистую книгу, многие думают, что отсканировать ее может только маньяк. Совершенно верно, именно так. Без применения научно-организованного подхода, любая работа превращается в мучение, но, сделав работу незаметной, хоть большого удовольствия и не получишь, но дело сделаешь.

Для сканирования сгодится любая программа, способная взаимодействовать с TWAIN-драйвером сканера и сохранять отсканированные изображения на диск, нумеруя их удобным способом. Сойдет любой просмотровщик графических файлов: ACDSee, IrfanView, XnView… Если ваш сканер поддерживается программой сканирования VueScan, можете использовать и ее.

Например, в IrfanView (скачайте свежую версию этой бесплатной программы) это выглядит примерно так:
- В меню Файл жмем пункт Выбрать TWAIN-источник…
- Далее, там же, выбираем пункт меню Получить изображение/пакетное сканирование…

здесь выбираем, как будут нумероваться файлы сканов, где они будут складироваться и тип графического формата. Не забудем проверить Опции графического формата:

можно выбрать или Без сжатия или LZW (внимание, не все программы корректно с ним работают), в последнем случае размер файла на выходе будет примерно в два раза меньше. Можно, наверное, и ZIP, но это проверьте самостоятельно.
- жмем на кнопку OK и переходим в окно TWAIN Вашего сканера.

Сама техника сканирования незатейлива:
Берется книга, кладется разворотом (т.е. двумя страницами) на стекло, прижимается если надо сверху рукой (это быстрее, чем использовать груз).
Делается предварительное сканирование.
Картинка, если это возможно, в окне сканирования, разворачивается на 90 градусов (в нормальное положение).
Выбирается область сканирования с некоторым запасом, как правило по горизонтали (по вертикали трудно промахнутся).
Мышкой жмется кнопка основного сканирования.
После того, как данный разворот отсканирован, во время обратного движения каретки сканера, переворачиваем страницу книги, кладем на то же место и жмем опять на левую кнопку мыши (курсор ведь остался на кнопке сканирования), и так пока книга не кончится.

Т.е. идея проста, сканируем развороты вслепую. Этим достигаем максимальной скорости сканирования, которая ограничена только техническими характеристиками сканера, и полной свободы головы. Таким образом, во время сканирования, Вы можете заниматься многими другими вещами, да хоть кино посмотреть.

Небольших перекосов, отсканированных страниц, бояться не стоит, это будет исправлено при последующей обработке, но все же надо соблюдать аккуратность. Желательно всё ж таки серединку прижимать посильнее, исправление геометрических искажений строк здесь не будет рассмотрено.

Не забываем, что сканируем с разрешением 300 дпи и в градациях серого (greyscale), если будете сканировать в черно-белом режиме при 300 дпи, то просто потеряете время (хорошая книжка уже не получится).

На выходе этого этапа получаем так называемый сырой материал – файлы в формате tiff с разрешением 300 dpi в градациях серого, обычно размер каждого файла, без использования сжатия, составляет примерно 8 мегабайт (4 при LZW).

Скорость сканирования может достигать до 200 и даже более разворотов (400 страниц) в час, на сканере со скоростью 16 секунд на сканирование А4, т.е. сканирование среднестатистической книги, займет не более 2 часов времени! Ну, а если у Вас Plustek OpticBook 3600, то за час можно отсканировать более 500 страниц (250 разворотов).

Обычно первый и последний разворот книги содержат по одной странице. Ну, так и сканируем их по одной, т.е. все-таки придется сделать 3 предварительных сканирования на книгу .

Лично я раньше сканировал книги в формате tiff (CCITT Fax 4) 600 dpi ч/б. Приемлимо только для новых книг (белая бумага и чёткий текст и картинки).
У нас на работе инженерная машина (принтер/копир/сканер) только этот формат поддерживала. На данный момент аппаратуру обновили и сканирую только в tiff 600 dpi с оттенками серого или в цвете.
Повторюсь, что не надо сканировать в jpeg.
Самое лучшее - несжатый tiff в оттенках серого 600 dpi (чтоб по менее файлы весили можно использовать сжатие ZIP или LZW - потерь не будет).
В большинстве случаев хватит и разрешения 300 dpi при сканировании в формате tiff в оттенках серого.

Пересохранять файлы tiff с разным сжатием можно с помощью бесплатной программы Irfan View.

Многое зависит от качества бумажного оригинала.
По этому я и предлагаю для начала отсканировать из книги один лист/разворот и выложить в теме. Посмотрим на качество и сформулируем рекомендации для конкретного данного случая.

Жутко простая и жутко удобная программка на русском языке для обработки сканов Scan Tailor.
С хорошо сделанными сканами справляется на ура. Саму программу см. вложение scantailor-0.9.10-install.zip

Ссылка на программу СканКромсатор версии 5.91
Описание работы с программой СканКромсатор (ScanAndShare1.07, пдф-ка)
Полезныя ссылка на статью по поводу создания книг DJVU
Как сделать DJVU-книгу

Добавлено (февраль 2012).
По поводу внедрения текстового слоя (ссылку на статью убрал, ибо стала не рабочей).
Советую программу ABBYY FineReader 11.0. Открываем в ней книгу в формате DJVU, распознаём, сохраняем в DJVU (уже с текстовым слоем).
Раньше для внедрения текстового слоя приходилось использовать несколько программ, сейчас всё намного проще.
Ссылка на пост с программкой и инструкцией по её использованию для автоматического внедрения текстового слоя с помощью ABBYY FineReader 11.0 сразу в несколько книг (пакетная обработка). Благодарствие DEM
Сделать оглавление в книге можно легко с помощью Pdf & DjVu Bookmarker Просто попробуйте
Просьба. Если у кого есть в бумажном виде:
1) М.Я. Штаерман, А.М. Ивянский "Безбалочные перекрытия" 1953.
2) Голышев А. Б. и др. "Железобетонные конструкции" (часть I и часть 2) 2001
3) Железобетонные стены сейсмостойких зданий: Исследования и основы проектирования / под редакцией Г.Н. Ашкинадзе и М.Е. Соколова
Москва, Стройиздат, 1988
отсканируйте пожалуйста в хорошем разрешении (не менее 300 dpi) в tiff в оттенках серого.
На сайте уже есть эти книги, но не в очень хорошем качестве.
PPS: Самое основное и главное требование к сканам книг, которые вы делаете или будете делать и в дальнейшем выкладывать в общий доступ.
...
Делайте, как для себя.

http://djvu-spec.narod.ru
О том как правильно делать OCR в DJVU (FineReader 11)
Последний релиз Scantailor

[zvezdochiot]

Сообщение от Николаевич Старый файл djvu разобрал FR15, доработал ST (подчистил, разбил страницы, убрал мусор) и заново сшил ...

Для примера возьмём https://dwg.ru/lib/3999 . У него разрешение 600DPI.
Ты его тоже вроде как разобрал, почистил, убрал мусор, но на выходе получил 330DPI. Вот здесь логика от меня ускользает. Откуда берутся эти самые 330?

[Нубий-IV]

Сообщение от zvezdochiot MFBpdf

Интересная штука. А есть такая, которая берет готовые картники - фоновый JPG и маску TIFF, и просто сливает их в один MRC-PDF? Чтобы, например, после ScanTailor в режиме разделения сканов собрать легкую PDF-ку?

[zvezdochiot]

Сообщение от Нубий-IV А есть такая, которая берет готовые картники - фоновый JPG и маску TIFF, и просто сливает их в один MRC-PDF? Чтобы, например, после ScanTailor в режиме разделения сканов собрать легкую PDF-ку?

Есть. Это PDFBeads. Но он на Ruby и зависимости у него довольно "причудливые". Плюс к этому он использует не саму маску, а её негатив (зачем?). Пользует также JBIG2. Но мне JBIG2 не прёт - слишком тормозной в просмотре по сравнению с JB2.
Запилить одностраничный аналог PDFBeads без JBIG2 в принципе можно (LibJPEG и LibTIFF в проекте всё равно участвуют), но обеспечить вменяемую проверку этих самых TIFF и JPEG будет не просто. Потенциально глючная тулза намечается. Надо ж понимать, что я не программист, так "самоделкин".

[Николаевич]

Сообщение от zvezdochiot Надо ж понимать, что я не программист, так "самоделкин".

Сам в "шоке"...

[zvezdochiot]

Сообщение от Николаевич Сам в "шоке"...

Теперь 570DPI:

Код:

[Выделить все]

DjVu 2050x3020, v25, 570 dpi, gamma=2.2

Что происходит? Я таких сканеров знать не знаю. Что то "вкралась маленькая неточность".

[Нубий-IV]

Оказывается, разные библиотеки для PDF умеют накладывать маску на изображения. Например, iText. Тестовая программка на C#:

Код:

[Выделить все]

 
using System;
using iText.IO.Image;
using iText.Kernel.Geom;
using iText.Kernel.Pdf;
using iText.Kernel.Pdf.Canvas;
using iText.Layout;
using iText.Layout.Element;


namespace img2pdf
{
	class Program
	{
		const int POINTS_TO_INCH = 72; 
		
		static void CreateImagePDF(string pdfFileName, string imageFileName)
		{
			var writer = new PdfWriter(pdfFileName);
			var pdf = new PdfDocument(writer);
			var document = new Document(pdf);

			var imageData = ImageDataFactory.Create(imageFileName);
	
			float pageWidth = imageData.GetWidth() * POINTS_TO_INCH / imageData.GetDpiX();
			float pageHeight = imageData.GetHeight() * POINTS_TO_INCH / imageData.GetDpiY();
			
			var pageSize = new PageSize(pageWidth, pageHeight);
			var page = pdf.AddNewPage(pageSize);
			
			var image = new Image(imageData);
			
			image.SetWidth(pageWidth);
			image.SetHeight(pageHeight);
			image.SetFixedPosition(0, 0);
			
			document.Add(image);
			
			document.Close();
		}
		
		static void CreateMaskedImagePDF(string pdfFileName, string imageFileName, string maskFileName)
		{
			var writer = new PdfWriter(pdfFileName);
			var pdf = new PdfDocument(writer);
			var document = new Document(pdf);

			var imageData = ImageDataFactory.Create(imageFileName);
			var maskData = ImageDataFactory.Create(maskFileName);

			maskData.MakeMask();
			maskData.SetInverted(true);
			imageData.SetImageMask(maskData);

			float pageWidth = imageData.GetWidth() * POINTS_TO_INCH / imageData.GetDpiX();
			float pageHeight = imageData.GetHeight() * POINTS_TO_INCH / imageData.GetDpiY();

			var pageSize = new PageSize(pageWidth, pageHeight);
			var page = pdf.AddNewPage(pageSize);
			
			var canvas = new PdfCanvas(page);
			canvas.Rectangle(0, 0, pageWidth, pageHeight);
			canvas.Fill();
			
			var image = new Image(imageData);
			
			image.SetWidth(pageWidth);
			image.SetHeight(pageHeight);
			image.SetFixedPosition(0, 0);
			
			document.Add(image);
			
			document.Close();
		}
		
		static void PrintHelp()
		{
			Console.WriteLine("img2pdf imgFile [maskImgFile]");
			Console.WriteLine("Press any key");
			Console.ReadKey(true);
		}

		public static void Main(string[] args)
		{
			try {
				if(args.Length == 2)
					CreateMaskedImagePDF(
						System.IO.Path.ChangeExtension(args[0], ".pdf"),
						args[0],
						args[1]
					);
				else if(args.Length == 1)
					CreateImagePDF(
						System.IO.Path.ChangeExtension(args[0], ".pdf"),
						args[0]
					);
				else
					PrintHelp();
			} catch (Exception e) {
				Console.WriteLine("Error: " + e.Message);
				Console.WriteLine("Press any key");
				Console.ReadKey(true);
			}
		}
	}
}

Во вложении - скомпилированная версия.

Кто не любит командную строку, может создать ярлык, и перетаскивать на него пару файлов - JPG и TIFF.

Для уменьшения веса арихва в папке LIB с исходниками лежат пустые DLL, оригиналы можно забрать из папки с программой.

[zvezdochiot]

Сообщение от Нубий-IV Тестовая программка на C#

Ежели перепишешь на Java, "цены тебе не будет". А то сборная солянка (iText ведь Java, или нет?).

[andriadi]

Сообщение от Николаевич разобрал FR15

что за версия FR15

[Нубий-IV]

Сообщение от zvezdochiot iText ведь Java

По ссылке можно обе версии загрузить - и Java, и C#.

Проверял еще "Apitron.PDF.Kit" - он тоже умеет в маски. Но пишет много лишнего мусора в файл, не дело это для архивирования.

У "PDF Clown" заявлен низкоуровневый доступ, маски можно наложить вручную. Не тестировал, раз уж iText справился.

А раз шарп с задачей справляется, дальше надо гуй прикрутить, чтобы проект после СТ открыть, настроить сжатие с просмотром, по типу плагинов "Save for Web", и собрать PDF разом, а не возиться по одной странице. Тест - это для тех, кто не готов подождать 10 лет, пока у меня руки до гуя дотянутся .

[румата]

Сообщение от Нубий-IV Оказывается, разные библиотеки для PDF умеют накладывать маску на изображения.

Еще бы понимать зачем это может быть нужно

[zvezdochiot]

Сообщение от румата Еще бы понимать зачем это может быть нужно

Затем, что маска может быть 600 dpi (чёткиий текст) или даже 1200 dpi, а фон всего 150 dpi, или вообще 100 dpi.

[Нубий-IV]

Сообщение от румата зачем это может быть нужно

В ПД иногда надо включать сканы листов с печатями. Иногда приходится сканировать целые документы на сотню страниц. И никто не желает видеть результаты в DJVU, всем подавай PDF.

На примере пары случайных картинок из тырьнета:

1. 
   Есть скан документа. Скан чистый, в 300dpi и сжат в JPG (наш сканер делает так же). Титул весит 350k, текстовая страница 1037k. Видны глюки от JPG - компрессии. При распечатке эти глюки становится хорошо видно. Документ в сотню страниц весит 100M. Если увеличить разрешение до 600dpi, и поднять качество в настройках сканера, чтобы убрать сопли, документ потяжелеет до 300-400M.
   
   Известно, что если сохранять текст и чертежи в монохромный TIFF со сжатием CCITT Group 4 FAX, то текстовая страница 300dpi уменьшается в размерах с 1M до 50...100k (при 600 dpi - 100...150k), и дает четкое изображение. Документ в сотню страниц будет весить всего 5...10M вместо сотни.
   
   Проблема только со страницами, где есть цветные участки - подписи, печати, картинки.
   
   Если сохранять только картинку, то подписи, печати, логотипы и т.п. можно сжать в PNG с подходящей палитрой; фотографии - в JPG. В обоих случаях файл будет весить тоже 100..150k без видимой потери качества. Иногда можно уменьшить разрешение картинки, и сделать размер 50...100k.
   
   Но если сохранять и текст, и картинку одновременно в одно изображение, то оно либо попортит текст (JPG), либо картинку (монохромный TIFF), либо будет много весить (PNG).
   
   В JDVU это решается сохранением страницы в виде двух картинок - фон и текст жмутся отдельно в две разные картинки, каждая в своем наилучшем формате, сохраняются одновременно, и на страницу выводятся друг поверх друга. Ссылки на программы по DJVU - в шапке.
   
   PDF умеет то же. В нем содержимое страницы состоит из команд типа "нарисовать линию", "залить прямоугольник", "задать систему координат", "вывести картинку" и т.п. Все это в виде простых текстовых команд, как в HTML или в программировании графики. На сайте Adobe есть простейшее руководство типа "быстрый старт": https://www.adobe.com/technology/pdf...DFTutorial.pdf
   
   Так что в PDF тоже можно записать две картинки в разных форматах и показать одну поверх другой. Можно сохранить картинку по размеру рамки (а не всей страницы), и выводить много раз, как логотип. И т.д., и т.п.
   
   Но на уровне пользователя для таких фокусов нужен солидный редактор, где это все будет в настройках объектов на макете страницы делаться; может, какие полиграфические программы так и умеют. Простых и бесплатных я не знаю. Максимум, видел всякие галочки "сжать PDF", которые жмут все подряд в JPG 100dpi. У нас так ГИПы в экспертизу пытаются файлы пропихивать; не дай бог там скан съемки с печатями и микроскопическими цифрами есть - хана такому чертежу.
   
   А на уровне программиста можно свалять свою писалку PDF или взять готовую библиотеку. Под инструменты DJVU отделять картинки от текста уже умеет Scan Tailor.
2. 
   Страницы с картинками надо переключить в режим "Смешанный", и на вкладке "Зоны картинок" обвести то, что будет сжиматься в JPG/PNG. При включенной галочке "Разделить выход" SP разложит текст отдельно, картинки отдельно, в разные файлы.
3. 
   Монохромная страница с текстом (002) лежит в папке OUT, а смешанная разбита на два файла - в подпапках BACKGROUND и FOREGROUND.
4. 
   Текст титула уже сжат как надо - монохромный TIFF, и весит всего 26K, а подписи жирноваты, 720k. Я их уменьшаю в размере в 2раза, с 600 до 300dpi, и сохраняю в PNG с палитрой 32 цвета - получается 33k. Остается сделать "img2pdf 001.png 001.tif". Получается страница PDF весом всего 59k, вместо исходного 1M, и с высоким качеством изображения, вместо обычных соплей JPG.
   
   Итоговый PDF весит 193k вместо 1390k.

[zvezdochiot]

Сообщение от Нубий-IV PDF умеет то же

Не совсем так. Это всего лишь одно из "умений" PDF. Но "это" не является единственным рецептом, в отличии от DjVu. В PDF страница может быть представлена CCITT Group4 либо JBIG2 в 600 dpi и более, а сверху на неё "наштамповано" произвольное кол-во иллюстраций в различных dpi. Одно из решений в данном вопросе на базе python-reportlab: https://github.com/ImageProcessing-E...hon-cropper-tk

[Wlaster]

Сообщение от Нубий-IV Итоговый PDF весит 193k вместо 1390k.[/list]

А как добавить OCR-слой в итоговую pdf с двумя разными слоями-масками ? Насколько файл в размере прибавит ?

[zvezdochiot]

Сообщение от Wlaster А как добавить OCR-слой в итоговую pdf с двумя разными слоями-масками ?

PDFTK Builder . Сверху OCR stamp-ишь.

Сообщение от Wlaster Насколько файл в размере прибавит ?

На размер OCR-текста. Текста! + Hidden font (копейки)

PS: Важнее не как вставить, а как его редактировать. А вот "здесь" засада.

[ingt]

СП 15.13330.2020.

[Николаевич]

Вот...

[zvezdochiot]

Сообщение от Николаевич Вот...

Код:

[Выделить все]

DjVu 1737x2755, v25, 331 dpi, gamma=2.2

331 dpi - это уже явная байда. Таких сканеров точно нет физически. Не знаю как и зачем вы "это" делаете, но "это" неправильно.

[ingt]

Николаевич, можете оригинал Сергеев Е.М. - Грунтоведение 1983 выложить?

[Николаевич]

Вот...

----- добавлено через ~2 мин. -----

Сообщение от ingt можете оригинал Сергеев Е.М. - Грунтоведение 1983 выложить?

Уже нет, удалил. Поищи в инете RAR-архив с 4-мя pdf-файлами (75-100-125стр.) и разбирайся...

----- добавлено через ~2 мин. -----

Сообщение от zvezdochiot Не знаю как и зачем вы "это" делаете, но "это" неправильно.

Хватит капризничать. Ничего...