Lebih dari satu abad kemajuan

Evolusi OCR: satu abad membaca dengan mesin

Pengenalan karakter optik tidak muncul dalam satu terobosan tunggal. Teknologi ini berkembang melalui alat bantu baca, mesin bisnis khusus, perangkat lunak desktop, dan sistem pembelajaran yang semakin canggih. Setiap generasi memperluas jenis halaman yang dapat dibaca oleh mesin dan apa yang dapat dilakukan orang dengan hasilnya. Garis waktu ini mengikuti perkembangan tersebut secara berurutan, dengan periode yang tumpang tindih di mana beberapa pendekatan berkembang bersama.

Waktu baca 12 menitJelajahi garis waktu

Tiga alur melalui sejarah OCR

  • Kemajuan datang dari pengambilan gambar yang lebih baik, metode pengenalan, data pelatihan, dan analisis tata letak dokumen yang bekerja bersama.

  • OCR berkembang dari karakter cetak yang terkontrol menjadi tulisan tangan, gambar kamera, berbagai skrip, dan dokumen terstruktur.

  • Metode yang lebih baru memperluas apa yang mungkin dilakukan, sementara transkripsi yang setia dan evaluasi yang andal tetap penting.

1910an–1930an

Cahaya, suara, dan pendekatan awal untuk membaca dengan mesin

Beberapa akar OCR terletak pada upaya untuk membuat cetakan dapat diakses oleh pembaca tunanetra. Pada 1914, E. E. Fournier d'Albe mendeskripsikan optophone pembaca tipe, yang mengubah pola cahaya dari halaman menjadi sinyal suara. Pendengar belajar menafsirkan sinyal tersebut. Itu adalah alat bantu baca optik, bukan mesin yang secara otomatis menghasilkan transkrip teks, tetapi itu menunjukkan bahwa tanda cetak dapat dirasakan dan direpresentasikan dalam bentuk lain.

Penemu lain mengejar identifikasi karakter otomatis. Paten mesin pembaca Gustav Tauschek, yang diajukan pada 1928 dan diterbitkan pada 1930, mengilustrasikan perbandingan fotolistrik dengan templat karakter. Contoh pembacaan angka menggunakan potongan berputar untuk menguji bentuk yang disajikan ke perangkat. Pendekatan ini menyatukan optik, gerakan mekanis, dan penginderaan listrik jauh sebelum komputer digital serbaguna menjadi umum.

Perbedaan antara mendeteksi tanda dan mengidentifikasi karakter akan tetap menjadi pusat dari OCR. Menangkap halaman hanyalah permulaan: pembaca yang berguna juga perlu membedakan bentuk yang serupa dan menyatakan keputusannya dalam bentuk yang dapat digunakan oleh perangkat lain.

1950an

Pembaca karakter memasuki operasi bisnis

Selama 1950an, pembacaan otomatis bergerak lebih dekat ke pemrosesan bisnis sehari-hari. Paten alat pembaca David Shepard diajukan pada 1951 dan diterbitkan pada 1953. Survei National Bureau of Standards kontemporer mencatat instalasi produksi di Reader's Digest pada 1955. Sistem semacam itu mengatasi hambatan praktis: informasi yang sudah dicetak di atas kertas harus dimasukkan kembali oleh seseorang sebelum komputer dapat memprosesnya.

Pembaca ini biasanya bekerja dalam kondisi yang jauh lebih sempit daripada alat dokumen umum saat ini. Kumpulan karakter yang terbatas, pencetakan yang dapat diprediksi, dan penempatan yang terkontrol membuat masalah pengenalan lebih mudah dikelola. Pemindai, perangkat keras pengenalan, dan mekanisme output dirancang sebagai sistem yang terkoordinasi, sering kali untuk kelas dokumen tertentu.

Ini adalah perubahan signifikan dalam tujuan dan skala. Pembacaan optik menjadi metode input untuk komputasi bisnis. Keberhasilan bergantung pada pemrosesan beban kerja yang ditentukan secara konsisten, bukan pada demonstrasi bahwa mesin dapat mengenali beberapa karakter dalam kondisi laboratorium.

1960an

Font standar membuat teks cetak lebih mudah dikenali

Salah satu cara untuk meningkatkan pengenalan adalah dengan membuat input lebih dapat diprediksi. Jenis huruf yang dapat dibaca mesin seperti OCR-A dan OCR-B menggunakan bentuk karakter dan persyaratan pencetakan tertentu, mengurangi variasi yang harus ditangani oleh pembaca. OCR-B muncul dalam standar ECMA-11 pada 1965, dengan edisi selanjutnya menyempurnakan spesifikasi tersebut. Standardisasi membantu peralatan dan dokumen cetak bekerja bersama secara lebih konsisten.

Pendekatan ini menempatkan sebagian upaya rekayasa pada dokumen itu sendiri. Jenis huruf yang dikontrol ketat dapat membuat angka lebih mudah dibedakan dari angka lain, sementara dimensi dan spasi yang ditentukan mengurangi ketidakpastian selama pemindaian. Pertukarannya adalah fleksibilitas: pembaca yang dirancang di sekitar cetakan terkontrol tidak dapat secara otomatis menangani setiap koran, buku, atau catatan tulisan tangan.

Pengenalan karakter optik juga harus dibedakan dari pengenalan karakter tinta magnetik, atau MICR. Keduanya mendukung otomatisasi dokumen, tetapi MICR merasakan karakter yang dapat dibaca secara magnetis, sedangkan OCR menafsirkan gambar visualnya. Kedua teknologi tersebut berkembang berdampingan; keduanya bukan nama yang berbeda untuk proses membaca yang sama.

1970an

Pengenalan omnifont membuat cetakan biasa dapat dijangkau

Ambisi berikutnya adalah membaca materi yang tidak dicetak khusus untuk mesin. Pengenalan omnifont bertujuan untuk menangani berbagai jenis huruf biasa, mengurangi ketergantungan pada satu alfabet yang ditentukan. Nama tersebut menggambarkan arah kemajuan itu; itu tidak berarti bahwa setiap font, pemindaian, atau tata letak halaman dapat dibaca tanpa kesalahan.

Tonggak sejarah yang menonjol adalah mesin pembaca yang diperkenalkan oleh Ray Kurzweil dan timnya pada 13 Januari 1976. Dalam sejarah lisan untuk American Foundation for the Blind, Kurzweil menjelaskan kombinasi pemindaian, pengenalan karakter, dan ucapan yang disintesis. Bersama-sama, komponen-komponen tersebut memungkinkan materi cetak menjadi output lisan, menghubungkan pengenalan dengan pengalaman membaca yang lengkap.

Kemajuan dasar yang sama juga mendukung entri data komersial. Nilai OCR semakin bergantung pada penanganan dokumen yang ada, bukan hanya dokumen yang dirancang di sekitar keterbatasan pembaca. Pada saat yang sama, sistem ini menunjukkan mengapa mengenali huruf individu tidak cukup: kata-kata perlu disusun dalam urutan yang berguna sebelum dapat dibaca dengan lantang atau digunakan kembali.

1980an–1990an

Pemindaian dan OCR menjadi bagian dari alur kerja desktop

Seiring berkembangnya komputer pribadi dan pemindai desktop, OCR melampaui instalasi pembacaan khusus. Evaluasi Badan Perlindungan Lingkungan AS tahun 1990 terhadap pemindai desktop telah memperlakukan pengenalan teks sebagai kemampuan kantor yang praktis, membandingkan peralatan dan perangkat lunak untuk mengubah kertas menjadi file komputer yang dapat digunakan. Memindai halaman dan mentransfer teksnya ke pengolah kata menjadi alur kerja yang semakin mudah diakses.

Perangkat lunak harus melakukan lebih dari sekadar mengklasifikasikan karakter yang terisolasi. Perangkat lunak perlu memisahkan teks dari gambar, mengidentifikasi baris dan kolom, mengompensasi pemindaian yang miring, dan memutuskan cara merepresentasikan halaman dalam dokumen yang dapat diedit. Pembersihan gambar, analisis tata letak, kamus, dan pemeriksaan kontekstual menjadi bagian penting dari keseluruhan proses pengenalan. Sebuah halaman mungkin berisi sebagian besar huruf yang benar namun tetap memerlukan perbaikan substansial jika kolomnya tercampur.

Pengenalan PDF pada 1993 menambahkan cara portabel untuk menukar dokumen berbasis halaman. PDF adalah format dokumen, bukan metode pengenalan, tetapi format ini menyediakan tempat yang berguna untuk halaman hasil pindai dan teks terkait. Melestarikan tampilan halaman dan membuat isinya dapat dicari kini bisa menjadi tujuan yang saling melengkapi.

1989–1998

Penelitian tulisan tangan dan jaringan saraf mengubah pengenalan

Bersamaan dengan adopsi desktop, para peneliti meningkatkan pengenalan tulisan yang kurang dapat diprediksi. Program OCR NIST dari 1989 hingga 1998 mencakup formulir dan aplikasi tulisan tangan yang melibatkan Biro Sensus AS dan IRS. Kumpulan data publik dan sistem referensi memungkinkan perbandingan metode terhadap contoh bersama, alih-alih hanya mengandalkan demonstrasi dengan halaman yang dipilih secara cermat.

Pengenalan saraf sudah menjadi bagian penting dari pekerjaan ini. Makalah 1998 Gradient-Based Learning Applied to Document Recognition menjelaskan jaringan konvolusional yang mempelajari fitur visual yang berguna dari contoh, bersama dengan metode untuk menggabungkan pengenalan, segmentasi, dan batasan bahasa. Ini memperluas sejarah pengenalan pola statistik yang lebih luas; OCR sebelumnya juga menyertakan metode di luar pencocokan templat sederhana.

Belajar dari contoh menawarkan cara untuk mengakomodasi variasi dalam goresan dan bentuk karakter. Hal ini juga membuat data pelatihan dan evaluasi menjadi lebih penting. Sebuah sistem dapat berkinerja baik pada digit tulisan tangan yang terisolasi namun kesulitan dengan tulisan tangan yang bersambung atau formulir yang tidak dikenal. Kemajuan pada satu tugas pengenalan sangat berharga tanpa harus secara otomatis menyelesaikan setiap jenis dokumen lainnya.

2000-an

Koleksi digital besar mengubah OCR menjadi alat penemuan

Proyek digitalisasi memperluas peran OCR dari sekadar menggunakan kembali halaman menjadi menemukan informasi di seluruh koleksi. Perpustakaan dan arsip dapat melestarikan gambar surat kabar, buku, dan catatan sambil mengindeks teks yang dikenali. Library of Congress meluncurkan Chronicling America pada Maret 2007, memberikan peneliti sumber daya yang dapat dicari untuk surat kabar sejarah.

Hal ini mengubah cara orang mendekati arsip. Nama, tempat, atau frasa dapat mengarah langsung ke halaman yang relevan tanpa mengharuskan pembaca memeriksa setiap edisi. OCR menjadi bagian dari sistem pemindaian, metadata, pengindeksan, dan pengambilan yang lebih besar. Kegunaannya tidak lagi diukur hanya dari seberapa mirip dokumen yang diekspor dengan sumbernya.

Materi sejarah juga mengungkap kelemahan yang terus-menerus: kertas rusak, jenis huruf lama, spasi tidak teratur, dan kolom yang kompleks. Kesalahan pengenalan dapat menyembunyikan hasil pencarian yang relevan atau menghasilkan kecocokan yang menyesatkan. Menyimpan halaman asli bersama teks yang dihasilkan mesin memungkinkan pembaca memverifikasi penemuan, dan menjadikan pengenalan yang ditingkatkan sebagai cara untuk memperkaya koleksi digital yang ada tanpa harus memindai ulang setiap item.

2006–2009

Membaca seluruh urutan tanpa memisahkan setiap karakter

Kesulitan lama dalam pengenalan tulisan tangan adalah menentukan di mana satu karakter berakhir dan berikutnya dimulai. Goresan yang terhubung dan huruf yang tumpang tindih membuat proses potong-lalu-klasifikasi yang ketat menjadi rapuh. Metode urutan statistik, termasuk model Markov tersembunyi, telah mengatasi masalah ini. Jaringan saraf berulang menawarkan cara lain untuk menggunakan informasi tetangga saat menafsirkan baris. Jaringan memori jangka pendek panjang (LSTM), sejenis jaringan berulang, membantu mempertahankan konteks di seluruh urutan alih-alih menilai setiap wilayah kecil secara independen.

Connectionist Temporal Classification, yang diperkenalkan pada 2006, menyediakan metode pelatihan untuk mencocokkan urutan input dengan label teks tanpa mengharuskan posisi setiap karakter ditandai sebelumnya. Makalah aslinya mengevaluasi ucapan, sementara karya selanjutnya menerapkan pendekatan tersebut pada tulisan tangan. Makalah 2009 menggabungkan pelatihan urutan dengan jaringan berulang yang menggunakan konteks dari kedua arah untuk mengenali baris tulisan tangan yang tidak dibatasi.

Ini mengurangi ketergantungan pada segmentasi karakter-demi-karakter yang sempurna dan membantu membuat pengenalan tingkat baris menjadi lebih praktis. Ini tidak menghilangkan setiap langkah persiapan: sistem mungkin masih perlu menemukan teks, mengidentifikasi baris, dan menangani orientasi halaman. Perubahan pentingnya adalah bahwa pengenalan dapat mempelajari penyelarasan antara urutan gambar dan transkripnya alih-alih menerima setiap batas karakter sebelumnya.

2010-an

Pembelajaran mendalam membawa OCR melampaui pemindai flatbed

Teks yang difoto memperluas masalahnya lagi. Tanda terima di atas meja, papan nama toko, atau halaman yang diambil dari sudut tertentu dapat berisi bayangan, distorsi perspektif, dan latar belakang yang mengganggu. Sebelum mengenali kata-kata, sistem harus menemukannya. Oleh karena itu, deteksi teks dan pengenalan teks menjadi tugas penelitian yang saling terkait erat, dengan relevansi praktis untuk membaca dan menerjemahkan berbasis kamera.

Pembelajaran mendalam meningkatkan kedua tahap tersebut. Makalah teks pemandangan 2015 menggabungkan fitur gambar konvolusional, pemrosesan urutan berulang, dan transkripsi dalam satu sistem pengenalan yang dapat dilatih. Alih-alih memperlakukan ekstraksi fitur dan pembacaan sebagai komponen buatan tangan yang sepenuhnya terpisah, peneliti dapat mengoptimalkannya bersama-sama. Pendekatan ini juga menangani kata-kata dengan panjang berbeda tanpa harus mengisolasi setiap huruf terlebih dahulu.

Tolok ukur semakin mencerminkan kondisi pengambilan yang tidak terkendali. Kompetisi Membaca Kuat ICDAR 2015 menambahkan teks pemandangan insidental, memperluas evaluasi di luar gambar yang sengaja dibingkai di sekitar kata-kata yang dapat dibaca. Ini mendorong sistem yang dapat mengatasi teks yang ditemui orang dalam foto sehari-hari. Hal ini juga memperjelas bahwa kinerja pada dokumen hasil pindai yang bersih tidak sepenuhnya menggambarkan kemampuan pembaca di dunia visual yang lebih luas.

2015–2019

Data pelatihan sintetis dan tolok ukur multibahasa memperluas cakupan

Metode pembelajaran yang lebih baik juga memerlukan contoh yang lebih bervariasi. Gambar pelatihan sintetis memungkinkan peneliti menghasilkan teks dalam berbagai font, ukuran, warna, dan latar belakang tanpa memberi label secara manual pada setiap foto baru. Penelitian Oxford yang diterbitkan pada 2016 menempatkan teks buatan ke dalam pemandangan nyata sambil memperhitungkan geometrinya, menyediakan sejumlah besar materi pelatihan untuk deteksi teks. Contoh yang dihasilkan melengkapi gambar nyata dengan membuat variasi tertentu lebih mudah diproduksi dalam skala besar.

Evaluasi multibahasa berkembang secara paralel. Tantangan multibahasa ICDAR 2017 mencakup sembilan bahasa yang mewakili enam aksara; penerusnya pada 2019 menambahkan bahasa dan tugas pengenalan ujung-ke-ujung. Tolok ukur ini membawa aksara campuran, orientasi berbeda, dan berbagai sistem penulisan ke dalam pengaturan evaluasi yang sama.

Pelajaran yang lebih luas adalah bahwa dukungan bahasa melibatkan lebih dari sekadar menambahkan karakter ke alfabet. Sistem memerlukan contoh pelatihan yang sesuai dan metode yang dapat mengatasi struktur karakter, tulisan bersambung, dan arah membaca yang berbeda. Kumpulan data bersama membuat perbedaan tersebut lebih mudah diukur, sekaligus mengungkap kesenjangan antara kinerja pada bahasa yang terwakili dengan baik dan materi yang kurang dikenal.

2017–2020

Pembelajaran berbasis perhatian dan tata letak menghubungkan kata dengan struktur halaman

Arsitektur transformer, yang diperkenalkan pada 2017 untuk tugas bahasa, menyediakan cara yang ampuh untuk memodelkan hubungan di seluruh urutan melalui perhatian. Pentingnya bagi OCR berkembang melalui aplikasi selanjutnya pada pengenalan teks dan analisis dokumen. Perhatian memungkinkan sistem untuk menimbang bagian relevan dari inputnya saat menghasilkan hasil, menambahkan pendekatan lain di samping jaringan konvolusional dan berulang.

Penelitian dokumen juga melihat lebih dari sekadar transkrip biasa. Sebuah studi yang diajukan pada Desember 2019 dan diterbitkan pada 2020 menggabungkan teks yang dikenali dengan posisi halamannya selama pra-pelatihan, kemudian memasukkan fitur visual saat mengadaptasi sistem ke tugas dokumen tertentu. Lokasi menjadi penting karena kata yang sama dapat memainkan peran berbeda dalam judul, blok alamat, atau baris formulir.

Hal ini membantu menghubungkan pengenalan dengan tugas-tugas seperti klasifikasi dokumen dan ekstraksi informasi. Membaca angka dan mengidentifikasinya sebagai total faktur adalah operasi yang terkait namun berbeda; struktur halaman memberikan petunjuk untuk operasi kedua. Metode yang sadar tata letak tidak membuat OCR menjadi tidak perlu. Metode ini menawarkan cara untuk menggunakan outputnya bersama dengan bukti visual di sekitarnya, menggerakkan pemrosesan dokumen menuju hubungan antar elemen alih-alih aliran kata tunggal.

2021–2022

Transformer membaca teks dan menghasilkan hasil dokumen secara langsung

Menjelang 2021, para peneliti menerapkan transformer gambar dan teks yang telah dilatih sebelumnya secara langsung untuk pengenalan. Salah satu pendekatan yang dipublikasikan memasangkan encoder gambar dengan decoder teks dan mengevaluasi teks cetak, tulisan tangan, dan teks pemandangan. Pra-pelatihan pada koleksi besar, diikuti dengan pelatihan untuk tugas yang lebih spesifik, menawarkan rute lain untuk mempelajari pola visual dan menghasilkan urutan karakter atau kata yang koheren.

Lini pekerjaan terpisah mengeksplorasi pembuatan hasil dokumen terstruktur dari gambar tanpa terlebih dahulu menjalankan mesin OCR konvensional yang independen. Penelitian yang diperkenalkan pada akhir 2021 dan direvisi pada 2022 mendemonstrasikan pendekatan ini untuk pemahaman dokumen. Istilah OCR-free dalam karya tersebut menggambarkan tidak adanya tahap OCR terpisah; sistem tetap harus memperoleh informasi tertulis yang relevan dari gambar.

Perkembangan ini memperluas arsitektur yang tersedia. Sistem pemrosesan mungkin mengenali teks lalu menganalisisnya, atau melatih model untuk menghasilkan hasil yang diminta secara langsung. Tidak ada pengaturan yang menjamin output yang setia pada setiap halaman. Pilihan tersebut mengubah di mana kesalahan dapat masuk, bagaimana hasil diperiksa, dan seberapa mudah bukti perantara, seperti kata-kata yang dikenali dan posisinya, dapat dipertahankan.

2023–hari ini

Sistem multimodal memperluas pembacaan dokumen dan memunculkan pengujian baru

Sistem multimodal terkini menggabungkan pemrosesan gambar dan pembuatan bahasa, memungkinkan teks dokumen untuk berpartisipasi dalam interaksi yang lebih luas. Bergantung pada sistem dan tugasnya, pengguna dapat meminta transkripsi, mengajukan pertanyaan tentang halaman, atau mengekstrak bidang tertentu. Pengenalan semakin berada dalam alur kerja dokumen yang lebih besar, sementara OCR khusus tetap berguna ketika persyaratan utamanya adalah transkrip yang tepat dan dapat diperiksa.

Evaluasi telah berkembang dengan tepat. OCRBench, yang diperkenalkan pada 2023, mempertimbangkan pengenalan bersama dengan pertanyaan dokumen, ekstraksi informasi, dan ekspresi matematika tulisan tangan. Penerusnya, yang dirilis pada akhir 2024 dan direvisi pada 2025, memeriksa serangkaian teks visual dan tugas penalaran yang lebih luas. Keterbatasan yang dilaporkan mencakup detail halus, tata letak, elemen kompleks, dan teks yang kurang dikenal, yang menunjukkan mengapa klaim akurasi tunggal tidak dapat mencakup setiap persyaratan pembacaan dokumen.

Kemampuan yang lebih luas ini juga membuat tujuan output menjadi lebih penting. Penjelasan yang membantu mungkin berupa parafrasa, sementara transkrip yang setia harus mempertahankan apa yang sebenarnya dikatakan oleh halaman tersebut. Kata-kata yang fasih tidak dapat memastikan bahwa nama, jumlah, atau kutipan telah dibaca dengan benar. Sistem memerlukan evaluasi yang sesuai dengan tugasnya, baik itu akurasi karakter, urutan membaca, struktur tabel, atau kebenaran bidang yang diekstraksi.

Sepanjang abad ini, arah kemajuan telah menuju input yang kurang terkontrol dan output yang lebih berguna: dari karakter yang ditentukan hingga cetakan biasa, tulisan tangan, foto, dan dokumen kompleks. Pendekatan baru terus bergabung dengan pendekatan yang sudah ada. Tantangan utamanya tetap dapat dikenali: mengubah bukti visual menjadi informasi yang andal sambil mempertahankan detail yang penting.

Praktekkan apa yang telah Anda pelajari

Mulai dengan dokumen Anda sendiri

Pilih alat untuk file Anda, kenali teksnya, dan tinjau hasilnya bersama sumbernya.

Bahasa38

English العربية Français Italiano Deutsch Español Português Nederlands Русский Türkçe 日本語 中文 हिन्दी Bahasa Indonesia Bahasa Melayu 한국어 Tiếng Việt ไทย Polski Svenska Українська Norsk বাংলা Ελληνικά فارسی اردو Čeština Dansk Magyar Română Suomi Български Filipino ქართული Slovenčina Azərbaycanca עברית Slovenščina