Hiểu về lỗi nhận dạng

Thách thức OCR: từ bản quét khó đến văn bản không đáng tin cậy

OCR có thể thất bại vì một trang khó nhìn, chữ viết khó diễn giải hoặc cấu trúc khó bảo toàn. Những vấn đề đó tạo ra các loại lỗi khác nhau: sai ký tự, thiếu đoạn văn, bảng bị xáo trộn hoặc một câu thuyết phục nhưng không khớp với nguồn. Hiểu được nơi bắt đầu của lỗi giúp việc đánh giá kết quả và quyết định những gì cần chú ý trở nên dễ dàng hơn.

Đọc trong 11 phútCác điểm mấu chốt

Tổng quan về các thách thức chính

  • Chất lượng hình ảnh, nhận dạng ký tự và cấu trúc tài liệu đều ảnh hưởng đến kết quả cuối cùng.

  • Văn bản có thể đọc được, tìm kiếm được hoặc trôi chảy vẫn có thể chứa các thiếu sót và chi tiết không chính xác.

  • Đánh giá thông tin mà tác vụ của bạn phụ thuộc vào, sử dụng tài liệu nguồn làm tham chiếu.

Lỗi có thể bắt đầu trước khi một từ được nhận dạng

Việc biến một trang thành văn bản hữu ích bao gồm một số quyết định. Hệ thống phải xác định các vùng liên quan, diễn giải các dấu hiệu bên trong chúng và sắp xếp kết quả theo trình tự thích hợp. Những công việc này có thể được xử lý bởi các thành phần riêng biệt hoặc kết hợp trong một hệ thống học máy, nhưng chúng vẫn là những yêu cầu khác nhau. Một lỗi sớm trong quy trình có thể ảnh hưởng đến mọi thứ theo sau.

Hãy xem xét một bài báo hai cột với một ghi chú viết tay ở lề. Các từ in có thể dễ nhận dạng, nhưng ghi chú có thể bị nhầm là một phần của văn bản chính và các cột có thể bị xen kẽ. Kiểm tra chính tả sẽ không giải quyết được vấn đề đó. Ngược lại, một đoạn văn được sắp xếp hoàn hảo vẫn có thể chứa tên hoặc ngày tháng bị đọc sai.

Sự khác biệt hữu ích nằm ở chỗ thiếu bằng chứng, nhận dạng sai và mất cấu trúc. Nhận dạng chữ cái chính xác hơn không thể khôi phục một vùng chưa bao giờ được bao gồm, và bố cục sạch hơn không thể xác định ký tự nào trong hai ký tự mơ hồ đã thực sự được viết.

Ký tự nhỏ và khả năng chụp kém hạn chế bằng chứng sẵn có

Nhận dạng phụ thuộc vào sự khác biệt rõ ràng giữa các ký tự. Độ mờ có thể làm khép kín khoảng trống trong chữ e, hợp nhất các nét liền kề hoặc xóa bỏ sự khác biệt giữa dấu phẩy và dấu chấm. Văn bản nhỏ có thể chứa quá ít pixel để bảo toàn những khác biệt đó. Nén mạnh có thể thêm các mẫu khối và hiện tượng nhiễu xung quanh các cạnh, làm cho tệp trông có vẻ dễ đọc ở kích thước bình thường trong khi làm hỏng các chi tiết mà bộ nhận dạng cần.

Do đó, kích thước hình ảnh và dung lượng tệp là những thước đo chất lượng không đầy đủ. Một bức ảnh lớn có thể chứa một trang nhỏ, ở xa; một bản quét độ phân giải cao vẫn có thể bị mất nét. Thay đổi nhãn DPI hoặc phóng to hình ảnh hiện có không thêm phép đo mới về chữ viết gốc. Hướng dẫn chụp từ dự án số hóa IMPACT theo đó phân biệt văn bản thông thường với bản in rất nhỏ, vốn đòi hỏi chi tiết hơn.

Việc chụp tốt hơn có thể giảm bớt sự không chắc chắn này khi có bản gốc. Tuy nhiên, khi một từ bị che khuất bởi ánh sáng chói, bị cắt mất hoặc thiếu hụt về mặt vật lý, thì không có bằng chứng trực quan nào cho phần đó của bản ghi. Một sự cải thiện có thể gợi ý một hình dạng hợp lý, nhưng nó không thể xác minh từ ngữ bị thiếu.

Xoay, phối cảnh và độ cong của trang tạo ra các vấn đề khác nhau

Một trang được chụp ảnh ở một góc độ tạo ra nhiều vấn đề hơn là chỉ xoay. Phối cảnh có thể làm cho một bên của trang hẹp hơn bên kia, trong khi bề mặt cong của cuốn sách có thể làm cong các dòng gần gáy sách. Một trang nằm ngang, một bản quét hơi nghiêng và một cuốn sách mở bị cong đòi hỏi các hiệu chỉnh hình học khác nhau. Chỉ xoay cả ba sẽ không tạo ra sự cải thiện giống nhau.

Những biến dạng này có thể cản trở việc phát hiện các dòng và tách các từ lân cận. Gần gáy sách, các ký tự có thể bị nén lại với nhau hoặc bị che khuất một phần trong bóng tối. Nghiên cứu về việc làm phẳng hình ảnh tài liệu coi việc khôi phục chế độ xem trang phẳng hơn là một tác vụ riêng vì hình dạng trang ảnh hưởng đến việc nhận dạng sau đó.

Hiệu chỉnh hình học cũng có giới hạn. Căn chỉnh tốt hơn có thể làm cho chữ viết hiện có dễ diễn giải hơn, nhưng việc lấy mẫu lại nhiều lần có thể làm mềm các chi tiết nhỏ, và làm phẳng không thể tiết lộ văn bản chưa bao giờ được chụp. Mục tiêu là một biểu diễn hữu ích của bằng chứng, không chỉ đơn thuần là một trang trông có vẻ hình chữ nhật.

Mực mờ và các dấu vết nền cạnh tranh với văn bản

Không phải mọi dấu vết tối đều thuộc về một ký tự. Kết cấu giấy, vết bẩn, các đường kẻ, con dấu và bản in nhìn thấy qua mặt sau có thể giống văn bản hoặc đè lên nó. Ở thái cực khác, bút chì mờ, mực phai và dấu câu nhạt có thể khó phân biệt với nền. Cùng một trang có thể chứa cả hai loại vấn đề.

Làm sạch hình ảnh bao gồm các sự đánh đổi. Chuyển đổi một trang sang đen trắng đòi hỏi phải quyết định sắc thái nào thuộc về các dấu vết tiền cảnh và sắc thái nào thuộc về nền. Một ngưỡng loại bỏ kết cấu giấy nhạt cũng có thể xóa mất dấu thập phân. Loại bỏ nhiễu có thể loại bỏ một dấu phụ nhỏ, trong khi làm sắc nét có thể làm nổi bật các cạnh không mong muốn. Do đó, các quy trình làm việc OCR coi việc tăng cường, nhị phân hóa và khử nhiễu là các thao tác riêng biệt thay vì một cài đặt làm sạch chung.

Các dấu vết chồng chéo đòi hỏi sự chăm sóc đặc biệt. Một con dấu có thể chứa thông tin đáng để bảo tồn ngay cả khi nó đè lên một đoạn văn, và một chữ ký có thể có ý nghĩa mà không cần phải phiên âm đáng tin cậy. Việc loại bỏ một vùng gây nhiễu một cách bừa bãi có thể loại bỏ một phần của chính tài liệu đó. Một hình ảnh sạch hơn về mặt thị giác không nhất thiết là một hình ảnh trung thực hơn.

Kiểu chữ không quen thuộc làm cho bản in rõ ràng khó diễn giải

Một hình ảnh có thể sắc nét trong khi chữ viết của nó vẫn không quen thuộc với bộ nhận dạng. Phông chữ trang trí, kiểu chữ cô đọng, các chữ ghép và hình dạng ký tự bất thường làm thay đổi các mẫu cần được xác định. Một chữ ghép có thể nối những gì lẽ ra là các chữ cái riêng biệt; một dạng chữ cũ có thể giống với một ký tự hiện đại khác. Chữ hoa nhỏ, chỉ số trên và dấu câu cách nhau gần nhau tạo ra các sự phân biệt bổ sung.

Các tài liệu lịch sử thường kết hợp nhiều khó khăn. Kiểu chữ thay đổi tùy theo máy in và thời kỳ, cách viết chính tả có thể khác với cách dùng hiện đại, và giấy hoặc bản in có thể bị hư hỏng. Nghiên cứu về OCR lịch sử xác định kiểu chữ và bố cục phức tạp là những thách thức lớn và sử dụng các quy trình cho phép sửa lỗi ở nhiều giai đoạn. Chỉ cải thiện độ tương phản hình ảnh thôi không thể giải quyết mọi kiểu chữ lạ.

Ngoài ra còn có một lựa chọn biên tập: phiên âm trang tài liệu và hiện đại hóa ngôn ngữ của nó là hai nhiệm vụ khác nhau. Việc tự động thay thế một cách viết khác thường bằng một từ quen thuộc có thể giúp đoạn văn dễ đọc hơn nhưng lại làm giảm độ trung thực so với nguồn gốc. Các tên riêng, từ viết tắt và trích dẫn lịch sử cần được đánh giá dựa trên các quy ước riêng của tài liệu đó.

Chữ viết tay thay đổi giữa những người viết và ngay cả trong cùng một trang

Chữ viết tay không có một bộ hình dạng ký tự ổn định duy nhất. Người viết nối các chữ cái, thay đổi độ nghiêng, viết tắt từ và để lại khoảng cách không nhất quán. Một từ viết vội có thể trông khác với chính từ đó được viết cẩn thận vài dòng trước. Các nét nối cũng gây khó khăn cho việc xác định nơi một ký tự kết thúc và ký tự tiếp theo bắt đầu.

Nhận dạng dựa trên trình tự có thể sử dụng các chữ cái và từ lân cận để diễn giải một dòng, nhưng ngữ cảnh không loại bỏ được sự mơ hồ. Một họ tên lạ, một mã hoặc một con số đứng riêng lẻ có thể cung cấp rất ít trợ giúp về mặt ngôn ngữ. Các ghi chú bên lề, văn bản bị gạch bỏ và các phần bổ sung phía trên dòng tạo ra một câu hỏi riêng về cách thể hiện những thay đổi của người viết. Đây là những thách thức của cả chính sách nhận dạng và phiên âm.

Sự khác biệt giữa việc nhận dạng một hình ảnh và ghi lại một nét bút trực tiếp cũng rất quan trọng. Một ghi chú được quét chứa các dấu vết hiển thị cuối cùng, nhưng không chứa thứ tự, tốc độ hoặc hướng của chúng. Nghiên cứu về chữ viết tay phân biệt các hình ảnh ngoại tuyến (offline) này với đầu vào bằng bút trực tuyến (online). Không nên cho rằng sự thành công trên các chuyển động bút được ghi lại hoặc các ký tự được tách biệt gọn gàng sẽ chuyển đổi nguyên vẹn sang một bức ảnh chụp toàn bộ trang viết tay.

Ngôn ngữ, hệ thống chữ viết và hướng đọc tạo ra những sự mơ hồ riêng biệt

Cài đặt ngôn ngữ cung cấp ngữ cảnh hữu ích, nhưng ngôn ngữ và hệ thống chữ viết không giống nhau. Nhiều ngôn ngữ có thể chia sẻ cùng một hệ thống chữ viết trong khi sử dụng các kiểu chính tả khác nhau hoặc các chữ cái bổ sung. Một tài liệu cũng có thể trộn lẫn các hệ thống chữ viết trong một câu, như trong một địa chỉ chứa tên đường bằng ngôn ngữ địa phương và mã định danh bằng chữ Latinh. Nhận dạng đa ngôn ngữ phải xử lý các chuyển đổi này cũng như các ký tự riêng lẻ.

Ngôn ngữ nhận dạng mô tả văn bản đang được đọc, không phải ngôn ngữ của giao diện trang web. Một tùy chọn ngôn ngữ có sẵn cũng không ngụ ý độ chính xác ngang nhau cho mọi phông chữ, kiểu viết hoặc điều kiện chụp. Các tiêu chuẩn đa ngôn ngữ kiểm tra các hệ thống chữ viết khác nhau và các cảnh hỗn hợp chính xác vì hiệu suất cần được kiểm tra trên các tài liệu đa dạng.

Đối với tiếng Ả Rập, tiếng Ba Tư và các kiểu viết từ phải sang trái khác, thứ tự hiển thị thêm một lớp phức tạp nữa. Unicode phân biệt thứ tự logic của các ký tự được lưu trữ với cách sắp xếp trực quan của chúng. Số, dấu câu và từ tiếng Latinh có thể tuân theo các quy tắc hướng khác nhau trong cùng một dòng. Do đó, việc hiển thị bị xáo trộn có thể liên quan đến nhận dạng, lưu trữ văn bản hoặc hiển thị. Việc đảo ngược thủ công toàn bộ chuỗi có thể làm hỏng bản phiên âm mà thứ tự ký tự cơ bản của nó vốn đã chính xác.

Các từ đúng vẫn có thể xuất hiện sai thứ tự đọc

Bố cục tài liệu thể hiện các mối quan hệ mà một chuỗi ký tự thuần túy không tự động nắm bắt được. Các cột, tiêu đề, chú thích, cước chú và thanh bên đều có vai trò riêng. Một bộ nhận dạng có thể đọc đúng các từ của chúng trong khi kết hợp chúng thành một trình tự không chính xác. Một câu nhảy sang cột liền kề là một lỗi cấu trúc, ngay cả khi mọi từ đều được viết đúng chính tả.

Nghiên cứu về bố cục cũng cho thấy lý do tại sao các loại tài liệu quen thuộc không phải là một bài kiểm tra đầy đủ. Một hệ thống được phát triển dựa trên các bài báo khoa học có thể gặp phải các cách sắp xếp khác nhau trong các hướng dẫn, biểu mẫu hoặc báo cáo. Việc bỏ sót một chú thích nhỏ hoặc coi tiêu đề là văn bản nội dung có thể ảnh hưởng đến tính hữu ích của toàn bộ kết quả. Tìm mọi vùng liên quan và sắp xếp các vùng đó đều là một phần của việc đánh giá chuyển đổi tài liệu.

Những vấn đề này rất quan trọng đối với việc tái sử dụng và khả năng truy cập. Một trang có thể trông ổn trong khi văn bản được sao chép hoặc đầu ra giọng nói lại tuân theo một thứ tự không phù hợp. Hướng dẫn PDF của W3C giải thích cách thứ tự đọc logic hỗ trợ khả năng truy cập. Văn bản được nhận dạng rất hữu ích, nhưng việc tạo ra nó không tự thiết lập rằng các tiêu đề, thứ tự đọc và các nhu cầu truy cập khác của tài liệu đã được giải quyết.

Bảng, biểu mẫu và công thức phụ thuộc vào mối quan hệ giữa các dấu hiệu

Ý nghĩa của một bảng phụ thuộc vào việc giá trị nào thuộc về hàng nào và cột nào. Các ô được hợp nhất, tiêu đề lặp lại, ô trống và bảng tiếp tục qua các trang làm phức tạp mối quan hệ đó. Đọc tất cả các con số hiển thị là không đủ nếu một giá trị được gán cho sai tiêu đề. Nghiên cứu về trích xuất bảng tách biệt việc tìm bảng, khôi phục cấu trúc của nó và xác định vai trò của các ô trong đó.

Các biểu mẫu đưa ra một vấn đề liên quan. Một nhãn và giá trị của nó có thể bị ngăn cách bởi khoảng trắng, một dòng hoặc một ghi chú xen vào. Một ô kiểm gần đó có thể mang thông tin mà một bản phiên âm chỉ có văn bản không thể hiện được. Ví dụ, việc trích xuất cả "Đã phê duyệt" và "Đã từ chối" mà không ghi lại ô nào được đánh dấu sẽ làm mất đi phần quyết định của biểu mẫu, mặc dù cả hai từ đều được nhận dạng chính xác.

Số và công thức cũng làm trầm trọng thêm các lỗi nhỏ. Việc bỏ dấu thập phân trong 12.5 làm thay đổi giá trị; nhầm lẫn dấu trừ với dấu gạch ngang có thể làm thay đổi một biểu thức. Phân số, số mũ và chỉ số dưới dựa vào vị trí cũng như danh tính ký tự. Cấu trúc hai chiều của một công thức đòi hỏi một cách biểu diễn phù hợp, và việc tái tạo bảng cũng như phiên âm toán học cần được đánh giá vượt ra ngoài việc kiểm tra chính tả của các từ thông thường.

Đầu ra trôi chảy có thể che giấu những thiếu sót và các chỉnh sửa không được hỗ trợ

Ngữ cảnh ngôn ngữ giúp bộ nhận dạng chọn giữa các cách đọc hợp lý, nhưng tính hợp lý và độ trung thực là những mục tiêu khác nhau. Một hệ thống có thể thay thế một cái tên lạ bằng một từ phổ biến, chuẩn hóa lỗi chính tả hoặc cung cấp cách diễn đạt phù hợp với câu. Kết quả có thể nghe tự nhiên trong khi lại xa rời trang gốc hơn. Điều này đặc biệt quan trọng khi nhiệm vụ là phiên âm thay vì chỉnh sửa.

Một tiêu chuẩn chữ viết tay 2026 đã kiểm tra các lỗi của người viết, nhiều ngôn ngữ và các biểu thức phức tạp, và báo cáo các chỉnh sửa không được hỗ trợ về mặt hình ảnh trong một số hệ thống tạo sinh. Phát hiện này minh họa một chế độ lỗi thay vì một quy tắc rằng mọi hệ thống đều hoạt động giống hệt nhau. Tổng quát hơn, một đoạn văn được hình thành tốt không phải là bằng chứng cho thấy mọi từ đều có mặt hoặc tất cả các dòng dự định đều được bao gồm.

Lỗi cũng có thể đến từ quá trình xử lý trước đó. Một tệp PDF được quét có thể đã chứa một lớp văn bản OCR không hoàn hảo, vì vậy văn bản có thể chọn được vẫn có thể không khớp với trang hiển thị. Chạy nhận dạng hai lần cung cấp một sự so sánh khác, nhưng cả hai lần chạy đều có thể mắc cùng một lỗi. Sự đồng nhất giữa các kết quả đầu ra không thay thế được hình ảnh nguồn, đặc biệt là khi một ký tự hoặc đoạn văn vẫn còn mơ hồ.

Độ chính xác phụ thuộc vào tài liệu và nhiệm vụ đang được đo lường

Một con số về độ chính xác chỉ có ý nghĩa với một bài kiểm tra được xác định. Kết quả phụ thuộc vào tài liệu, bản phiên âm tham chiếu và cách xử lý khoảng trắng, dấu câu và các khác biệt khác. Một mẫu các đoạn văn in rõ ràng không thiết lập được hiệu suất trên các biểu mẫu viết tay hoặc một tờ báo bị hư hỏng. Đánh giá mang tính đại diện bao gồm các trang khó và bố cục bất thường quan trọng đối với công việc dự định.

Tỷ lệ lỗi ký tự đo lường các thay thế, bỏ sót và chèn ký tự ở cấp độ ký tự so với độ dài văn bản; tỷ lệ lỗi từ áp dụng một phép so sánh tương ứng cho các từ. Hướng dẫn đánh giá của OCR-D xử lý các biện pháp này tách biệt với bố cục và thứ tự đọc. Chúng trả lời các câu hỏi hữu ích, nhưng tỷ lệ lỗi tổng thể thấp vẫn có thể che giấu một số tài khoản không chính xác hoặc một từ phủ định bị thiếu làm thay đổi ý nghĩa của câu.

Do đó, việc đánh giá nên bao gồm tính đầy đủ, cấu trúc và các chi tiết quan trọng cũng như các điểm số tổng hợp. Việc tìm kiếm lưu trữ, trích dẫn và bảng dành cho tính toán có các yêu cầu khác nhau. Đánh dấu một phần đọc chưa được giải quyết sẽ cung cấp nhiều thông tin hơn là chọn phỏng đoán trôi chảy nhất, và việc giữ một liên kết đến nguồn giúp cho việc sửa chữa sau này trở nên khả thi khi có bằng chứng tốt hơn hoặc khi có đánh giá.

Mô hình của một lỗi chỉ ra nguyên nhân có khả năng xảy ra của nó

Một số nguyên nhân có thể tạo ra cùng một triệu chứng có thể nhìn thấy, vì vậy chẩn đoán là một cách để thu hẹp các khả năng thay vì là một sự đảm bảo. Sự nhầm lẫn lặp đi lặp lại giữa các chữ cái tương tự cho thấy một cuộc điều tra khác với các từ được đánh vần đúng xuất hiện sai thứ tự. Các ví dụ dưới đây kết nối các triệu chứng phổ biến với thông tin có thể đã bị mất.

Khi đã hiểu được lỗi, phản hồi có thể tập trung hơn: lấy nguồn rõ ràng hơn, sửa hình học, kiểm tra cách diễn giải của một vùng hoặc sửa chữa bản ghi cuối cùng. Hướng dẫn Cải thiện kết quả OCR riêng biệt cung cấp quy trình chuẩn bị và đánh giá. Mục tiêu là bảo tồn thông tin của tài liệu, không chỉ đơn giản là tạo ra văn bản trông sạch sẽ.

Mô hình của một lỗi chỉ ra nguyên nhân có khả năng xảy ra của nó
Triệu chứng có thể nhìn thấyLỗi cơ bản có thể xảy raThông tin có nguy cơ
Các chữ cái tương tự bị nhầm lẫn lặp đi lặp lạiThiếu chi tiết hoặc hình dạng ký tự không quen thuộcChính tả chính xác, tên và mã định danh
Các dấu vết mờ hoặc dấu câu biến mấtĐộ tương phản thấp hoặc lọc quá mứcDấu trọng âm, dấu thập phân và các chú thích nhỏ
Các từ đúng xuất hiện sai thứ tựCác cột bị trộn lẫn hoặc thứ tự vùng không chính xácÝ nghĩa câu và cấu trúc đoạn văn
Các giá trị xuất hiện dưới các tiêu đề saiMất mối quan hệ hàng, cột hoặc nhãnÝ nghĩa của các con số vốn dĩ chính xác
Văn bản đa hướng xuất hiện bị xáo trộnNhận dạng, thứ tự logic hoặc hành vi hiển thịThứ tự của các từ, dấu câu và mã định danh
Cách diễn đạt bất thường trở nên quen thuộc hơnThay thế hoặc viết lại theo ngữ cảnhTên, chính tả và trích dẫn trung thực
Toàn bộ ghi chú hoặc đoạn văn bị thiếuMột vùng đã bị cắt, bỏ lỡ hoặc bỏ quaTính đầy đủ của bản ghi
Đưa những gì bạn đã học vào thực tế

Bắt đầu với tài liệu của riêng bạn

Chọn công cụ cho tệp của bạn, nhận dạng văn bản và xem lại kết quả cùng với nguồn.

Ngôn ngữ38

English العربية Français Italiano Deutsch Español Português Nederlands Русский Türkçe 日本語 中文 हिन्दी Bahasa Indonesia Bahasa Melayu 한국어 Tiếng Việt ไทย Polski Svenska Українська Norsk বাংলা Ελληνικά فارسی اردو Čeština Dansk Magyar Română Suomi Български Filipino ქართული Slovenčina Azərbaycanca עברית Slovenščina