Lumină, sunet și primele abordări ale citirii automate
Unele dintre rădăcinile OCR constau în încercările de a face textul tipărit accesibil cititorilor nevăzători. În 1914, E. E. Fournier d'Albe a descris un optofon de citire a tiparului, care convertea modelele de lumină de pe o pagină în semnale audibile. Ascultătorul învăța să interpreteze acele semnale. Era un ajutor optic de citire, mai degrabă decât o mașină care producea automat o transcriere text, dar a demonstrat că semnele tipărite puteau fi detectate și reprezentate sub o altă formă.
Alți inventatori au urmărit identificarea automată a caracterelor. Brevetul mașinii de citit al lui Gustav Tauschek, depus în 1928 și publicat în 1930, ilustra compararea fotoelectrică cu șabloane de caractere. Exemplul său de citire a cifrelor folosea decupaje rotative pentru a testa forma prezentată dispozitivului. Aceste abordări au reunit optica, mișcarea mecanică și detectarea electrică cu mult înainte ca computerele digitale de uz general să devină comune.
Distincția dintre detectarea unui semn și identificarea unui caracter a rămas centrală pentru OCR. Capturarea paginii era doar începutul: un cititor util trebuia, de asemenea, să distingă formele similare și să își exprime decizia într-o formă pe care un alt dispozitiv o putea folosi.
Cititoarele de caractere intră în operațiunile de afaceri
În timpul anilor 1950, citirea automată s-a apropiat de procesarea zilnică a afacerilor. Brevetul aparatului de citire al lui David Shepard a fost depus în 1951 și eliberat în 1953. Un sondaj contemporan al Biroului Național de Standarde a înregistrat o instalare de producție la Reader's Digest în 1955. Astfel de sisteme abordau un blocaj practic: informațiile deja tipărite pe hârtie trebuiau altfel introduse din nou de o persoană înainte ca un computer să le poată procesa.
Aceste cititoare funcționau de obicei în condiții mult mai restrânse decât instrumentele generale de documente de astăzi. Un set de caractere restricționat, tipărirea previzibilă și plasarea controlată făceau problema recunoașterii mai ușor de gestionat. Scanerul, hardware-ul de recunoaștere și mecanismul de ieșire erau proiectate ca un sistem coordonat, adesea pentru o anumită clasă de documente.
Aceasta a fost o schimbare semnificativă în scop și scară. Citirea optică devenea o metodă de introducere a datelor pentru calculul în afaceri. Succesul depindea de procesarea consistentă a unei sarcini de lucru definite, mai degrabă decât de demonstrarea faptului că o mașină putea recunoaște câteva caractere în condiții de laborator.
Fonturile standardizate fac textul tipărit mai ușor de recunoscut
O modalitate de a îmbunătăți recunoașterea a fost de a face inputul mai previzibil. Tipurile de caractere lizibile de mașină, cum ar fi OCR-A și OCR-B, foloseau forme de caractere specificate și cerințe de tipărire, reducând variația pe care un cititor trebuia să o gestioneze. OCR-B a apărut în standardul ECMA-11 în 1965, edițiile ulterioare rafinând specificația. Standardizarea a ajutat echipamentele și documentele tipărite să lucreze împreună mai consistent.
Această abordare a plasat o parte din efortul de inginerie pe documentul în sine. Un tip de caracter strict controlat putea face o cifră mai ușor de distins de o altă cifră, în timp ce dimensiunile și spațierea specificate reduceau incertitudinea în timpul scanării. Compromisul a fost flexibilitatea: un cititor proiectat în jurul tiparului controlat nu putea gestiona automat orice ziar, carte sau notă scrisă de mână.
Recunoașterea optică a caracterelor ar trebui, de asemenea, distinsă de recunoașterea caracterelor cu cerneală magnetică, sau MICR. Ambele au susținut automatizarea documentelor, dar MICR detectează caractere lizibile magnetic, în timp ce OCR interpretează imaginea lor vizibilă. Cele două tehnologii s-au dezvoltat una lângă alta; nu sunt nume diferite pentru același proces de citire.
Recunoașterea omnifont aduce tiparul obișnuit la îndemână
Următoarea ambiție a fost citirea materialelor care nu fuseseră tipărite special pentru o mașină. Recunoașterea omnifont a vizat gestionarea unei game de tipuri de caractere obișnuite, reducând dependența de un singur alfabet prescris. Numele descria acea direcție de progres; nu însemna că fiecare font, scanare sau aspect de pagină putea fi citit fără erori.
Un punct de reper important a fost mașina de citit introdusă de Ray Kurzweil și echipa sa pe 13 ianuarie 1976. În istoria sa orală pentru Fundația Americană pentru Nevăzători, Kurzweil descrie combinația de scanare, recunoaștere a caracterelor și vorbire sintetizată. Împreună, acele componente au permis materialului tipărit să devină output vorbit, conectând recunoașterea cu o experiență completă de citire.
Aceleași progrese subiacente au susținut și introducerea comercială a datelor. Valoarea OCR a depins din ce în ce mai mult de gestionarea documentelor existente, nu doar a documentelor concepute în jurul limitărilor unui cititor. În același timp, aceste sisteme au arătat de ce recunoașterea literelor individuale era insuficientă: cuvintele trebuiau asamblate într-o ordine utilă înainte de a putea fi citite cu voce tare sau reutilizate.
Scanarea și OCR devin parte a fluxului de lucru desktop
Pe măsură ce computerele personale și scanerele desktop s-au dezvoltat, OCR a depășit instalațiile dedicate de citire. O evaluare a scanerelor desktop realizată de Agenția pentru Protecția Mediului din SUA în 1990 trata deja recunoașterea textului ca pe o capacitate practică de birou, comparând echipamentele și software-ul pentru conversia hârtiei în fișiere informatice utilizabile. Scanarea unei pagini și transferul textului său într-un procesor de text a devenit un flux de lucru din ce în ce mai accesibil.
Software-ul trebuia să facă mai mult decât să clasifice caractere izolate. Trebuia să separe textul de imagini, să identifice linii și coloane, să compenseze scanările înclinate și să decidă cum să reprezinte pagina într-un document editabil. Curățarea imaginii, analiza aspectului, dicționarele și verificările contextuale au devenit părți importante ale procesului general de recunoaștere. O pagină putea conține în mare parte litere corecte, dar totuși să necesite reparații substanțiale dacă coloanele sale erau amestecate.
Introducerea PDF în 1993 a adăugat o modalitate portabilă de a schimba documente bazate pe pagini. PDF a fost un format de document, nu o metodă de recunoaștere, dar a oferit un spațiu util pentru paginile scanate și textul asociat. Conservarea aspectului unei pagini și transformarea conținutului acesteia în text căutabil au devenit acum obiective complementare.
Cercetarea scrisului de mână și rețelele neuronale schimbă recunoașterea
Pe lângă adoptarea desktop-ului, cercetătorii îmbunătățeau recunoașterea scrisului mai puțin previzibil. Programul OCR al NIST din 1989 până în 1998 a inclus formulare și cereri scrise de mână, implicând Biroul de Recensământ al SUA și IRS. Seturile de date publice și sistemele de referință au făcut posibilă compararea metodelor pe baza unor exemple comune, în loc să se bazeze doar pe demonstrații cu pagini atent selecționate.
Recunoașterea neuronală era deja o parte importantă a acestei activități. Lucrarea 1998 „Gradient-Based Learning Applied to Document Recognition” a descris rețele convoluționale care învățau trăsături vizuale utile din exemple, împreună cu metode de combinare a recunoașterii, segmentării și constrângerilor lingvistice. Aceasta a extins o istorie mai largă a recunoașterii statistice a modelelor; lucrările anterioare OCR au inclus, de asemenea, metode dincolo de simpla potrivire a șabloanelor.
Învățarea din exemple a oferit o modalitate de a acomoda variațiile în trasarea liniilor și formele caracterelor. De asemenea, a făcut ca datele de antrenament și evaluarea să devină mai importante. Un sistem putea funcționa bine pe cifre scrise de mână izolate, dar să se confrunte cu dificultăți în cazul scrisului de mână cursiv sau al formularelor necunoscute. Progresul într-o sarcină de recunoaștere era valoros fără a rezolva automat orice alt tip de document.
Colecțiile digitale mari transformă OCR într-un instrument de descoperire
Proiectele de digitizare au extins rolul OCR de la reutilizarea unei pagini la descoperirea informațiilor în colecții întregi. Bibliotecile și arhivele au putut păstra imagini ale ziarelor, cărților și înregistrărilor, indexând în același timp textul recunoscut. Biblioteca Congresului a lansat Chronicling America în martie 2007, oferind cercetătorilor o resursă căutabilă pentru ziarele istorice.
Acest lucru a schimbat modul în care oamenii abordau o arhivă. Un nume, un loc sau o frază puteau duce direct la o pagină relevantă, fără a fi nevoie ca cititorul să examineze fiecare număr. OCR a devenit parte a unui sistem mai mare de scanare, metadate, indexare și regăsire. Utilitatea sa nu mai era măsurată doar prin cât de fidel semăna un document exportat cu sursa sa.
Materialul istoric a expus, de asemenea, slăbiciuni persistente: hârtie deteriorată, tipuri de caractere vechi, spațiere neregulată și coloane complexe. Erorile de recunoaștere puteau ascunde un rezultat de căutare relevant sau puteau produce o potrivire înșelătoare. Păstrarea paginii originale alături de textul generat de mașină a permis cititorilor să verifice descoperirile și a făcut ca recunoașterea îmbunătățită să fie o modalitate de a îmbogăți o colecție digitală existentă fără a scana din nou fiecare element.
Citirea secvențelor întregi fără separarea fiecărui caracter
O dificultate de lungă durată în recunoașterea scrisului de mână a fost stabilirea locului unde se termină un caracter și unde începe următorul. Liniile conectate și literele suprapuse au făcut ca procesul strict de tăiere-apoi-clasificare să fie fragil. Metodele statistice de secvență, inclusiv modelele Markov ascunse, au abordat deja această problemă. Rețelele neuronale recurente au oferit o altă modalitate de a utiliza informațiile învecinate în timp ce se interpretează o linie. Rețelele de tip „Long Short-Term Memory” (LSTM), un tip de rețea recurentă, au ajutat la păstrarea contextului pe parcursul unei secvențe, în loc să judece fiecare regiune mică în mod independent.
Clasificarea temporală conexionistă (CTC), introdusă în 2006, a oferit o metodă de antrenament pentru potrivirea secvențelor de intrare cu etichetele de text, fără a fi nevoie ca poziția fiecărui caracter să fie marcată în prealabil. Lucrarea originală a evaluat vorbirea, în timp ce lucrările ulterioare au aplicat abordarea scrisului de mână. O lucrare din 2009 a combinat antrenamentul secvențial cu rețele recurente care utilizau contextul din ambele direcții pentru a recunoaște linii scrise de mână neconstrânse.
Acest lucru a redus dependența de segmentarea perfectă caracter cu caracter și a ajutat la eficientizarea recunoașterii la nivel de linie. Nu a eliminat fiecare pas de pregătire: un sistem ar putea avea în continuare nevoie să localizeze textul, să identifice liniile și să gestioneze orientarea paginii. Schimbarea importantă a fost că recunoașterea putea învăța o aliniere între o secvență de imagine și transcrierea sa, în loc să primească fiecare limită de caracter în prealabil.
Învățarea profundă duce OCR dincolo de scanerul cu pat plat
Textul fotografiat a lărgit din nou problema. O chitanță pe un birou, o reclamă de magazin sau o pagină capturată dintr-un unghi pot conține umbre, distorsiuni de perspectivă și un fundal care distrage atenția. Înainte de a recunoaște cuvintele, un sistem trebuia să le găsească. Detectarea textului și recunoașterea textului au devenit, prin urmare, sarcini de cercetare strâns legate, cu relevanță practică pentru citirea și traducerea bazată pe cameră.
Învățarea profundă a îmbunătățit ambele etape. O lucrare despre textul în scene 2015 a combinat trăsăturile de imagine convoluționale, procesarea secvențială recurentă și transcrierea într-un singur sistem de recunoaștere antrenabil. În loc să trateze extragerea trăsăturilor și citirea ca pe niște componente separate, realizate manual, cercetătorii le-au putut optimiza împreună. Abordarea a gestionat, de asemenea, cuvinte de lungimi diferite fără a izola mai întâi fiecare literă.
Benchmark-urile au reflectat din ce în ce mai mult condițiile de captură necontrolate. Competiția de citire robustă ICDAR 2015 a adăugat text incidental din scene, extinzând evaluarea dincolo de imaginile încadrate deliberat în jurul cuvintelor lizibile. Acest lucru a încurajat sistemele care pot face față textului pe care oamenii îl întâlnesc în fotografiile de zi cu zi. De asemenea, a clarificat faptul că performanța pe documente scanate curate nu descrie pe deplin abilitățile unui cititor în lumea vizuală mai largă.
Datele de antrenament sintetice și benchmark-urile multilingve extind acoperirea
Metodele de învățare mai bune au necesitat, de asemenea, exemple mai variate. Imaginile de antrenament sintetice le-au permis cercetătorilor să genereze text în diferite fonturi, dimensiuni, culori și fundaluri, fără a eticheta manual fiecare fotografie nouă. Cercetarea de la Oxford publicată în 2016 a plasat text artificial în scene reale, ținând cont de geometria acestora, oferind cantități mari de material de antrenament pentru detectarea textului. Exemplele generate au completat imaginile reale, făcând variațiile specifice mai ușor de produs la scară largă.
Evaluarea multilingvă s-a extins în paralel. Provocarea multilingvă ICDAR 2017 a inclus nouă limbi reprezentând șase scrieri; succesorul său din 2019 a adăugat o limbă și o sarcină de recunoaștere end-to-end. Aceste benchmark-uri au adus scrieri mixte, orientări diferite și o gamă mai largă de sisteme de scriere într-un cadru de evaluare comun.
Lecția mai largă a fost că suportul lingvistic a implicat mult mai mult decât adăugarea de caractere la un alfabet. Sistemele aveau nevoie de exemple de antrenament adecvate și de metode care să poată face față diferitelor structuri de caractere, scrierii conectate și direcțiilor de citire. Seturile de date partajate au făcut ca astfel de diferențe să fie mai ușor de măsurat, dezvăluind în același timp lacunele dintre performanța pe limbile bine reprezentate și cea pe materialele mai puțin familiare.
Atenția și învățarea conștientă de aspect conectează cuvintele cu structura paginii
Arhitectura transformer, introdusă în 2017 pentru sarcini lingvistice, a oferit o modalitate puternică de a modela relațiile pe parcursul unei secvențe prin atenție. Importanța sa pentru OCR s-a dezvoltat prin aplicații ulterioare în recunoașterea textului și analiza documentelor. Atenția a permis unui sistem să pondereze părțile relevante ale intrării sale în timp ce producea un rezultat, adăugând o altă abordare alături de rețelele convoluționale și recurente.
Cercetarea documentelor a privit, de asemenea, dincolo de o simplă transcriere. Un studiu prezentat în decembrie 2019 și publicat în 2020 a combinat textul recunoscut cu poziția sa în pagină în timpul pre-antrenării, apoi a încorporat caracteristici vizuale la adaptarea sistemului pentru sarcini specifice privind documentele. Locația a contat deoarece aceleași cuvinte pot juca roluri diferite într-un titlu, un bloc de adresă sau un rând dintr-un formular.
Acest lucru a ajutat la conectarea recunoașterii cu sarcini precum clasificarea documentelor și extragerea informațiilor. Citirea unui număr și identificarea acestuia ca total de factură sunt operațiuni conexe, dar distincte; structura paginii oferă indicii pentru cea de-a doua. Metodele care țin cont de aspect nu au făcut OCR inutil. Ele au oferit modalități de a utiliza rezultatul acestuia împreună cu dovezile vizuale din jur, mutând procesarea documentelor către relațiile dintre elemente, mai degrabă decât către un flux unic de cuvinte.
Modelele transformer citesc textul și generează direct rezultatele documentului
Până în 2021, cercetătorii aplicau direct modele transformer de imagine și text pre-antrenate pentru recunoaștere. O abordare publicată a împerecheat un codificator de imagine cu un decodificator de text și a evaluat textul tipărit, scris de mână și cel din scene. Pre-antrenarea pe colecții mari, urmată de antrenarea pentru o sarcină mai specifică, a oferit o altă cale de a învăța tipare vizuale și de a produce secvențe coerente de caractere sau cuvinte.
O linie separată de lucru a explorat generarea de rezultate structurate ale documentelor din imagini fără a rula mai întâi un motor OCR convențional independent. Cercetarea introdusă la sfârșitul anului 2021 și revizuită în 2022 a demonstrat această abordare pentru înțelegerea documentelor. Termenul „fără OCR” din acea lucrare descrie absența unei etape OCR separate; sistemul trebuie totuși să derive informațiile scrise relevante din imagine.
Aceste evoluții au extins arhitecturile disponibile. Un sistem de procesare ar putea recunoaște textul și apoi să îl analizeze, sau să antreneze un model pentru a produce direct un rezultat solicitat. Niciun aranjament nu garantează o ieșire fidelă pe fiecare pagină. Alegerea schimbă locul în care pot apărea erorile, modul în care sunt inspectate rezultatele și cât de ușor pot fi păstrate dovezile intermediare, cum ar fi cuvintele recunoscute și pozițiile acestora.
Sistemele multimodale extind citirea documentelor și ridică noi teste
Sistemele multimodale recente combină procesarea imaginilor și generarea limbajului, permițând textului din document să participe la interacțiuni mai largi. În funcție de sistem și sarcină, un utilizator poate solicita o transcriere, poate pune o întrebare despre o pagină sau poate extrage anumite câmpuri. Recunoașterea se integrează din ce în ce mai mult într-un flux de lucru mai amplu al documentelor, în timp ce OCR dedicat rămâne util atunci când cerința principală este o transcriere precisă și verificabilă.
Evaluarea s-a extins în consecință. OCRBench, introdus în 2023, a luat în considerare recunoașterea alături de întrebări despre documente, extragerea informațiilor și expresii matematice scrise de mână. Succesorul său, lansat la sfârșitul anului 2024 și revizuit în 2025, a examinat un set mai larg de sarcini de text vizual și raționament. Limitările raportate au inclus detaliile fine, aspectul, elementele complexe și textul mai puțin familiar, arătând de ce o singură afirmație privind acuratețea nu poate surprinde fiecare cerință de citire a documentelor.
Această capacitate mai largă face, de asemenea, ca scopul unui rezultat să fie mai important. O explicație utilă poate parafraza, în timp ce o transcriere fidelă trebuie să păstreze ceea ce spune pagina în realitate. O formulare fluentă nu poate stabili dacă un nume, o sumă sau un citat au fost citite corect. Sistemele au nevoie de o evaluare adaptată sarcinii, indiferent dacă aceasta înseamnă acuratețea caracterelor, ordinea de citire, structura tabelului sau corectitudinea unui câmp extras.
De-a lungul secolului, direcția progresului a fost către un input mai puțin controlat și un output mai util: de la caractere prescrise la tipar obișnuit, scriere de mână, fotografii și documente complexe. Noile abordări continuă să se alăture celor consacrate. Provocarea centrală rămâne recognoscibilă: transformarea dovezilor vizuale în informații fiabile, păstrând în același timp detaliile care contează.