İşıq, səs və maşın oxunuşuna ilk yanaşmalar
OCR-nın köklərinin bəziləri çapı kor oxucular üçün əlçatan etmək cəhdlərində yatır. 1914-də E. E. Fournier d'Albe səhifədən gələn işıq naxışlarını eşidilən siqnallara çevirən çap-oxuyan optofonu təsvir etdi. Dinləyici bu siqnalları şərh etməyi öyrəndi. Bu, avtomatik olaraq mətn transkripti yaradan maşından daha çox optik oxu vasitəsi idi, lakin çap olunmuş işarələrin hiss edilə və başqa formada təmsil oluna biləcəyini nümayiş etdirdi.
Digər ixtiraçılar avtomatik simvol identifikasiyasını davam etdirdilər. Gustav Tauschek-in 1928-da təqdim edilən və 1930-də dərc olunan oxu maşını patenti, simvol şablonları ilə fotoelektrik müqayisəni nümayiş etdirirdi. Onun rəqəm oxuma nümunəsi cihaza təqdim olunan formanı yoxlamaq üçün fırlanan kəsiklərdən istifadə edirdi. Bu yanaşmalar ümumi təyinatlı rəqəmsal kompüterlər geniş yayılmazdan çox əvvəl optikanı, mexaniki hərəkəti və elektrik sensorunu bir araya gətirdi.
İşarəni aşkar etmək və simvolu müəyyən etmək arasındakı fərq OCR üçün mərkəzi olaraq qalacaqdı. Səhifəni çəkmək yalnız başlanğıc idi: faydalı oxuyucu həm də oxşar formaları ayırd etməli və qərarını başqa bir cihazın istifadə edə biləcəyi formada ifadə etməli idi.
Simvol oxuyucuları biznes əməliyyatlarına daxil olur
1950-lar ərzində avtomatik oxunuş gündəlik biznes emalına yaxınlaşdı. David Shepard-ın oxu aparatı patenti 1951-də təqdim edildi və 1953-də verildi. Müasir Milli Standartlar Bürosunun sorğusu 1955-də Reader's Digest-də istehsalat quraşdırılmasını qeydə aldı. Belə sistemlər praktik bir darboğazı aradan qaldırdı: kağız üzərində artıq çap olunmuş məlumatlar kompüter tərəfindən emal edilməzdən əvvəl bir şəxs tərəfindən yenidən daxil edilməli idi.
Bu oxuyucular adətən bugünkü ümumi sənəd alətlərindən daha dar şəraitdə işləyirdilər. Məhdud simvol dəsti, proqnozlaşdırıla bilən çap və idarə olunan yerləşdirmə tanınma problemini daha idarəolunan etdi. Skaner, tanınma avadanlığı və çıxış mexanizmi, çox vaxt xüsusi sənəd sinfi üçün koordinasiya edilmiş sistem kimi dizayn edilmişdi.
Bu, məqsəd və miqyasda əhəmiyyətli bir dəyişiklik idi. Optik oxunuş biznes hesablamaları üçün giriş metoduna çevrilirdi. Uğur, maşının laboratoriya şəraitində bir neçə simvolu tanıya biləcəyini nümayiş etdirməkdən çox, müəyyən edilmiş iş yükünün ardıcıl emalından asılı idi.
Standartlaşdırılmış şriftlər çap olunmuş mətni tanımağı asanlaşdırır
Tanınmanı yaxşılaşdırmanın bir yolu girişi daha proqnozlaşdırıla bilən etmək idi. OCR-A və OCR-B kimi maşın tərəfindən oxuna bilən şriftlər müəyyən edilmiş simvol formalarından və çap tələblərindən istifadə edərək, oxuyucunun öhdəsindən gəlməli olduğu dəyişikliyi azaldırdı. OCR-B 11-də ECMA-1965 standartında göründü, sonrakı nəşrlər spesifikasiyanı təkmilləşdirdi. Standartlaşdırma avadanlıq və çap olunmuş sənədlərin daha ardıcıl işləməsinə kömək etdi.
Bu yanaşma mühəndislik səylərinin bir hissəsini birbaşa sənədin özünə yönəltdi. Sıx idarə olunan şrift rəqəmi digər rəqəmdən ayırmağı asanlaşdıra bilərdi, müəyyən edilmiş ölçülər və boşluqlar isə skan zamanı qeyri-müəyyənliyi azaldırdı. Bunun əvəzində çeviklik itirilirdi: idarə olunan çap ətrafında dizayn edilmiş oxuyucu hər qəzeti, kitabı və ya əl yazısı qeydini avtomatik olaraq emal edə bilmirdi.
Optik simvolların tanınması həm də maqnit mürəkkəbli simvolların tanınmasından və ya MICR-dən fərqləndirilməlidir. Hər ikisi sənəd avtomatlaşdırılmasını dəstəkləyirdi, lakin MICR maqnitlə oxuna bilən simvolları hiss edir, OCR isə onların görünən təsvirini şərh edir. İki texnologiya bir-biri ilə yanaşı inkişaf etdi; onlar eyni oxu prosesi üçün fərqli adlar deyil.
Omnifont tanınması adi çapı əlçatan edir
Növbəti məqsəd maşın üçün xüsusi olaraq çap olunmamış materialı oxumaq idi. Omnifont tanınması, tək bir təyin olunmuş əlifbaya etibarı azaldaraq, bir sıra adi şriftləri idarə etməyi hədəfləyirdi. Ad bu tərəqqi istiqamətini təsvir edirdi; bu, hər şriftin, skanın və ya səhifə tərtibatının səhvsiz oxuna biləcəyi mənasına gəlmirdi.
Görkəmli bir mərhələ, Ray Kurzweil və komandası tərəfindən 13 yanvar 1976-də təqdim edilən oxu maşını idi. Amerika Korlar Fondu üçün şifahi tarixində Kurzweil skan, simvolların tanınması və sintez edilmiş nitqin birləşməsini təsvir edir. Birlikdə, bu komponentlər çap olunmuş materialın şifahi çıxışa çevrilməsinə imkan verərək, tanınmanı tam oxu təcrübəsi ilə əlaqələndirdi.
Eyni əsas irəliləyişlər kommersiya məlumatlarının daxil edilməsini də dəstəklədi. OCR-nın dəyəri getdikcə daha çox oxuyucunun məhdudiyyətləri ətrafında dizayn edilmiş sənədlərdən deyil, mövcud sənədlərin idarə olunmasından asılı oldu. Eyni zamanda, bu sistemlər fərdi hərfləri tanımağın niyə kifayət olmadığını göstərdi: sözlər ucadan oxunmazdan və ya təkrar istifadə olunmazdan əvvəl faydalı ardıcıllıqla yığılmalı idi.
Skan və OCR masaüstü iş axınının bir hissəsinə çevrilir
Fərdi kompüterlər və masaüstü skanerlər inkişaf etdikcə, OCR xüsusi oxu quraşdırmalarından kənara çıxdı. 1990 ABŞ Ətraf Mühitin Mühafizəsi Agentliyinin masaüstü skanerlər qiymətləndirməsi artıq mətnin tanınmasını praktik ofis imkanı kimi qəbul edirdi, kağızı istifadə edilə bilən kompüter fayllarına çevirmək üçün avadanlıq və proqram təminatını müqayisə edirdi. Səhifəni skan etmək və mətnini mətn prosessoruna köçürmək getdikcə daha əlçatan bir iş axınına çevrildi.
Proqram təminatı təcrid olunmuş simvolları təsnif etməkdən daha çoxunu etməli idi. O, mətni şəkillərdən ayırmalı, sətirləri və sütunları müəyyən etməli, əyri skanları kompensasiya etməli və səhifəni redaktə edilə bilən sənəddə necə təmsil edəcəyinə qərar verməli idi. Şəkil təmizlənməsi, tərtibat təhlili, lüğətlər və kontekstual yoxlamalar ümumi tanınma prosesinin vacib hissələrinə çevrildi. Səhifə əsasən düzgün hərflərdən ibarət ola bilərdi, lakin sütunları qarışdırılıbsa, hələ də əhəmiyyətli təmir tələb edə bilərdi.
PDF-ın 1993-də tətbiqi səhifə əsaslı sənədlərin mübadiləsi üçün portativ bir yol əlavə etdi. PDF tanınma metodu deyil, sənəd formatı idi, lakin skan edilmiş səhifələr və əlaqəli mətnlər üçün faydalı bir mühit təmin edirdi. Səhifənin görünüşünü qoruyub saxlamaq və onun məzmununu axtarıla bilən etmək artıq bir-birini tamamlayan hədəflər ola bilərdi.
Əl yazısı tədqiqatı və neyron şəbəkələri tanınmanı dəyişir
Masaüstü kompüterlərin istifadəsi ilə yanaşı, tədqiqatçılar daha az proqnozlaşdırıla bilən yazıların tanınmasını təkmilləşdirirdilər. NIST-in OCR-dan 1989-ə qədər davam edən 1998 proqramı, ABŞ Siyahıyaalma Bürosu və IRS-i əhatə edən əllə yazılmış formaları və ərizələri özündə birləşdirirdi. İctimai verilənlər bazaları və istinad sistemləri, diqqətlə seçilmiş səhifələrlə nümayişlərə güvənmək əvəzinə, metodları ortaq nümunələrlə müqayisə etməyi mümkün etdi.
Neyron tanınma artıq bu işin vacib bir hissəsi idi. 1998 məqaləsi olan "Sənədlərin Tanınmasına Tətbiq Edilən Qradiyent Əsaslı Öyrənmə" (Gradient-Based Learning Applied to Document Recognition), nümunələrdən faydalı vizual xüsusiyyətləri öyrənən konvolyusiya şəbəkələrini, həmçinin tanınma, seqmentasiya və dil məhdudiyyətlərini birləşdirmə metodlarını təsvir edirdi. Bu, statistik nümunələrin tanınmasının daha geniş tarixini genişləndirdi; əvvəlki OCR də sadə şablon uyğunlaşdırmasından kənar metodları əhatə edirdi.
Nümunələrdən öyrənmək, ştrixlərdə və simvol formalarındakı dəyişiklikləri uyğunlaşdırmaq üçün bir yol təklif etdi. Bu, həmçinin təlim məlumatlarını və qiymətləndirməni daha vacib etdi. Bir sistem təcrid olunmuş əl yazısı rəqəmlərində yaxşı işləyə bilsə də, birləşdirilmiş əl yazısı və ya tanış olmayan formalarla çətinlik çəkə bilərdi. Bir tanınma tapşırığındakı irəliləyiş, avtomatik olaraq digər sənəd növlərini həll etmədən də dəyərli idi.
Böyük rəqəmsal kolleksiyalar OCR-ı kəşf alətinə çevirir
Rəqəmsallaşdırma layihələri OCR-ın rolunu səhifənin təkrar istifadəsindən bütün kolleksiyalar üzrə məlumatların kəşf edilməsinə qədər genişləndirdi. Kitabxanalar və arxivlər qəzetlərin, kitabların və qeydlərin şəkillərini qoruyub saxlaya və eyni zamanda tanınmış mətnlərini indeksləşdirə bilərdilər. Konqres Kitabxanası 2007-ci ilin martında "Chronicling America" layihəsini işə salaraq, tədqiqatçılara tarixi qəzetlər üçün axtarıla bilən bir resurs təqdim etdi.
Bu, insanların arxivə yanaşma tərzini dəyişdi. Bir ad, yer və ya ifadə, oxucudan hər bir nüsxəni yoxlamağı tələb etmədən birbaşa müvafiq səhifəyə apara bilərdi. OCR skan etmə, metadata, indeksləşdirmə və axtarışdan ibarət daha böyük bir sistemin hissəsinə çevrildi. Onun faydalılığı artıq yalnız ixrac edilmiş sənədin mənbəyinə nə qədər bənzəməsi ilə ölçülmürdü.
Tarixi materiallar həm də davamlı zəiflikləri üzə çıxarırdı: zədələnmiş kağız, köhnə şriftlər, qeyri-müntəzəm boşluqlar və mürəkkəb sütunlar. Tanınma səhvləri müvafiq axtarış nəticəsini gizlədə və ya çaşdırıcı bir uyğunluq yarada bilərdi. Orijinal səhifəni maşın tərəfindən yaradılmış mətnlə yanaşı saxlamaq oxuculara kəşfləri yoxlamağa imkan verdi və təkmilləşdirilmiş tanınmanı hər bir elementi yenidən skan etmədən mövcud rəqəmsal kolleksiyanı zənginləşdirməyin bir yolu etdi.
Hər bir simvolu ayırmadan bütün ardıcıllıqları oxumaq
Əl yazısının tanınmasında uzun müddətdir davam edən bir çətinlik, bir simvolun harada bitib digərinin harada başladığına qərar vermək idi. Birləşdirilmiş ştrixlər və üst-üstə düşən hərflər ciddi kəs-və-təsnif et prosesini kövrək edirdi. Gizli Markov modelləri də daxil olmaqla statistik ardıcıllıq metodları bu problemi artıq həll etmişdi. Rekurent neyron şəbəkələri, bir sətiri şərh edərkən qonşu məlumatlardan istifadə etməyin başqa bir yolunu təklif etdi. Rekurent şəbəkə növü olan Uzun Qısamüddətli Yaddaş (LSTM) şəbəkələri, hər kiçik bölgəni müstəqil mühakimə etmək əvəzinə, ardıcıllıq boyunca konteksti saxlamağa kömək etdi.
2006-da təqdim olunan Connectionist Temporal Classification (CTC), hər bir simvolun mövqeyinin əvvəlcədən qeyd olunmasını tələb etmədən giriş ardıcıllıqlarını mətn etiketləri ilə uyğunlaşdırmaq üçün bir təlim metodu təmin etdi. Orijinal məqalə nitqi qiymətləndirirdi, sonrakı işlər isə bu yanaşmanı əl yazısına tətbiq etdi. 2009-ci ilin məqaləsi, məhdudiyyətsiz əl yazısı sətirlərini tanımaq üçün hər iki istiqamətdən kontekstdən istifadə edən rekurent şəbəkələrlə ardıcıllıq təlimini birləşdirdi.
Bu, mükəmməl simvol-simvol seqmentasiyasından asılılığı azaltdı və sətir səviyyəsində tanınmanı daha praktik etməyə kömək etdi. Bu, hər hazırlıq addımını aradan qaldırmadı: sistem hələ də mətni tapmalı, sətirləri müəyyən etməli və səhifənin istiqamətini idarə etməli idi. Əsas dəyişiklik o idi ki, tanınma, hər simvol sərhədini əvvəlcədən almaq əvəzinə, şəkil ardıcıllığı ilə onun transkripti arasında uyğunlaşmanı öyrənə bilirdi.
Dərin öyrənmə OCR-ı planşet skanerindən kənara çıxarır
Fotoşəkil çəkilmiş mətn problemi yenidən genişləndirdi. Masanın üzərindəki qəbz, mağaza lövhəsi və ya bucaq altında çəkilmiş səhifə kölgələr, perspektiv təhrifi və diqqəti yayındıran fon ehtiva edə bilərdi. Sözləri tanımadan əvvəl sistem onları tapmalı idi. Buna görə də mətnin aşkarlanması və mətnin tanınması, kamera əsaslı oxuma və tərcümə üçün praktik əhəmiyyət kəsb edən bir-biri ilə sıx bağlı tədqiqat tapşırıqlarına çevrildi.
Dərin öyrənmə hər iki mərhələni təkmilləşdirdi. 2015 səhnə mətni məqaləsi konvolyusiya şəkli xüsusiyyətlərini, rekurent ardıcıllıq emalını və transkripsiyanı bir təlim keçə bilən tanınma sistemində birləşdirdi. Xüsusiyyətlərin çıxarılmasını və oxunmasını tamamilə ayrı əl işi komponentləri kimi görmək əvəzinə, tədqiqatçılar onları birlikdə optimallaşdıra bildilər. Bu yanaşma həm də hər hərfi əvvəlcədən təcrid etmədən müxtəlif uzunluqdakı sözləri idarə edirdi.
Meyarlar getdikcə daha çox nəzarətsiz çəkiliş şəraitini əks etdirirdi. 2015 ICDAR Möhkəm Oxu Müsabiqəsi (Robust Reading Competition) təsadüfi səhnə mətnini əlavə edərək, qiymətləndirməni oxuna bilən sözlər ətrafında qəsdən çərçivələnmiş şəkillərdən kənara çıxardı. Bu, insanların gündəlik fotoşəkillərdə rastlaşdıqları mətnlərlə mübarizə apara bilən sistemləri təşviq etdi. Bu, həm də aydın etdi ki, təmiz skan edilmiş sənədlərdəki performans, oxucunun daha geniş vizual dünyadakı bacarıqlarını tam təsvir etmir.
Sintetik təlim məlumatları və çoxdilli meyarlar əhatə dairəsini genişləndirir
Daha yaxşı öyrənmə metodları daha müxtəlif nümunələr tələb edirdi. Sintetik təlim şəkilləri tədqiqatçılara hər yeni fotoşəkili əllə etiketləmədən müxtəlif şriftlərdə, ölçülərdə, rənglərdə və fonlarda mətn yaratmağa imkan verdi. 2016-da dərc olunan Oksford tədqiqatı, mətnin aşkarlanması üçün böyük miqdarda təlim materialı təmin edərək, həndəsələrini nəzərə alaraq süni mətni real səhnələrə yerləşdirdi. Yaradılmış nümunələr, müəyyən dəyişiklikləri miqyasda istehsal etməyi asanlaşdıraraq real şəkilləri tamamladı.
Çoxdilli qiymətləndirmə paralel olaraq genişləndi. 2017 ICDAR çoxdilli çağırışı altı yazı sistemini təmsil edən doqquz dili əhatə edirdi; onun 2019-ci il varisi bir dil və uçdan-uca tanınma tapşırığı əlavə etdi. Bu meyarlar qarışıq yazıları, müxtəlif istiqamətləri və daha geniş yazı sistemlərini ümumi qiymətləndirmə mühitinə gətirdi.
Daha geniş dərs ondan ibarət idi ki, dil dəstəyi əlifbaya simvollar əlavə etməkdən daha çox şey tələb edirdi. Sistemlər müvafiq təlim nümunələrinə və müxtəlif simvol strukturları, birləşdirilmiş yazı və oxu istiqamətləri ilə mübarizə apara bilən metodlara ehtiyac duyurdu. Paylaşılan verilənlər bazaları bu cür fərqləri ölçməyi asanlaşdırdı, eyni zamanda yaxşı təmsil olunan dillərdəki performansla daha az tanış olan materiallardakı performans arasındakı boşluqları ortaya qoydu.
Diqqət və düzülüşü nəzərə alan öyrənmə sözləri səhifə strukturu ilə əlaqələndirir
Dil tapşırıqları üçün 2017-da təqdim olunan transformer arxitekturası, diqqət (attention) vasitəsilə ardıcıllıq boyunca əlaqələri modelləşdirmək üçün güclü bir yol təmin etdi. Onun OCR üçün əhəmiyyəti, mətnin tanınması və sənəd təhlilinə sonrakı tətbiqləri ilə inkişaf etdi. Diqqət, bir sistemə nəticə çıxararkən girişinin müvafiq hissələrini çəkiləndirməyə imkan verdi və konvolyusiya və rekurent şəbəkələrlə yanaşı başqa bir yanaşma əlavə etdi.
Sənəd tədqiqatı sadə bir transkriptdən kənara çıxmağa çalışırdı. 2019 ilin dekabrında təqdim olunan və 2020 ilində dərc olunan bir araşdırma, ilkin təlim zamanı tanınmış mətni onun səhifədəki mövqeyi ilə birləşdirdi, sonra sistemi xüsusi sənəd tapşırıqlarına uyğunlaşdırarkən vizual xüsusiyyətləri daxil etdi. Yerləşmə vacib idi, çünki eyni sözlər başlıqda, ünvan blokunda və ya forma sətrində fərqli rollar oynaya bilərdi.
Bu, tanınmanı sənəd təsnifatı və məlumat çıxarılması kimi tapşırıqlarla əlaqələndirməyə kömək etdi. Bir rəqəmi oxumaq və onu faktura cəmi kimi müəyyən etmək əlaqəli, lakin fərqli əməliyyatlardır; səhifə strukturu ikincisi üçün ipucları verir. Layout-aware (tənzimləməni nəzərə alan) üsullar OCR-ı lazımsız etmədi. Onlar onun çıxışını ətrafdakı vizual sübutlarla birlikdə istifadə etmək yollarını təklif edərək, sənəd emalını tək bir söz axınından elementlər arasındakı əlaqələrə doğru yönəltdi.
Transformerlər mətni oxuyur və sənəd nəticələrini birbaşa yaradır
2021 ilinə qədər tədqiqatçılar ilkin təlim keçmiş şəkil və mətn transformerlərini birbaşa tanınmaya tətbiq edirdilər. Dərc edilmiş bir yanaşma şəkil kodlayıcısını mətn dekoderi ilə cütləşdirdi və çap olunmuş, əl yazısı və səhnə mətnini qiymətləndirdi. Böyük kolleksiyalarda ilkin təlim, ardınca daha xüsusi bir tapşırıq üçün təlim, vizual naxışları öyrənmək və ardıcıl simvol və ya söz ardıcıllığı yaratmaq üçün başqa bir yol təklif etdi.
Ayrı bir iş xətti, müstəqil ənənəvi OCR mühərrikini işə salmadan şəkillərdən strukturlaşdırılmış sənəd nəticələrinin yaradılmasını araşdırdı. 2021 ilinin sonlarında təqdim olunan və 2022 ilində yenidən işlənmiş tədqiqat sənədin başa düşülməsi üçün bu yanaşmanı nümayiş etdirdi. Həmin işdəki OCR-free termini ayrı bir OCR mərhələsinin olmadığını bildirir; sistem hələ də müvafiq yazılı məlumatı şəkildən çıxarmalıdır.
Bu inkişaflar mövcud arxitekturaları genişləndirdi. Emal sistemi mətni tanıya və sonra onu təhlil edə bilər və ya tələb olunan nəticəni birbaşa istehsal etmək üçün model öyrədə bilər. Heç bir tənzimləmə hər səhifədə etibarlı çıxışa zəmanət vermir. Seçim səhvlərin harada daxil ola biləcəyini, nəticələrin necə yoxlanıldığını və tanınmış sözlər və onların mövqeləri kimi aralıq sübutların nə dərəcədə asanlıqla saxlanıla biləcəyini dəyişdirir.
Multimodal sistemlər sənəd oxunuşunu genişləndirir və yeni sınaqlar yaradır
Son multimodal sistemlər şəkil emalı və dil yaratmanı birləşdirərək, sənəd mətninin daha geniş qarşılıqlı əlaqələrdə iştirak etməsinə imkan verir. Sistemdən və tapşırıqdan asılı olaraq, istifadəçi transkripsiya tələb edə, səhifə haqqında sual verə və ya xüsusi sahələri çıxara bilər. Tanınma getdikcə daha böyük bir sənəd iş axını daxilində yerləşir, lakin əsas tələb dəqiq, yoxlanıla bilən bir transkript olduqda xüsusi OCR faydalı olaraq qalır.
Qiymətləndirmə də buna uyğun olaraq genişlənib. 2023 ilində təqdim olunan OCRBench, sənəd sualları, məlumat çıxarılması və əl ilə yazılmış riyazi ifadələrlə yanaşı tanınmanı da nəzərə aldı. 2024 ilinin sonunda buraxılan və 2025 ilində yenidən işlənmiş onun varisi, daha geniş vizual mətn və mühakimə tapşırıqlarını araşdırdı. Bildirilən məhdudiyyətlərə incə detallar, tərtibat, mürəkkəb elementlər və daha az tanış olan mətn daxildir ki, bu da tək bir dəqiqlik iddiasının niyə hər sənəd oxuma tələbini əhatə edə bilməyəcəyini göstərir.
Bu daha geniş imkan həm də çıxışın məqsədini daha vacib edir. Faydalı bir izahat parafraza edə bilər, lakin etibarlı bir transkript səhifədə həqiqətən nə yazıldığını qorumalıdır. Səlis ifadələr adın, məbləğin və ya sitatın düzgün oxunduğunu təsdiq edə bilməz. Sistemlər, istər simvol dəqiqliyi, oxu ardıcıllığı, cədvəl strukturu, istərsə də çıxarılmış sahənin düzgünlüyü olsun, tapşırığa uyğun qiymətləndirməyə ehtiyac duyur.
Əsr boyu tərəqqinin istiqaməti daha az idarə olunan girişə və daha faydalı çıxışa doğru olub: müəyyən edilmiş simvollardan adi çapa, əl yazısına, fotoşəkillərə və mürəkkəb sənədlərə qədər. Yeni yanaşmalar qurulmuş olanlara qoşulmağa davam edir. Mərkəzi problem tanınan olaraq qalır: vizual sübutları vacib olan detalları qoruyaraq etibarlı məlumata çevirmək.