שגיאות יכולות להתחיל לפני שמילה מזוהה
הפיכת דף לטקסט שימושי כרוכה במספר החלטות. מערכת חייבת לזהות את האזורים הרלוונטיים, לפרש את הסימנים בתוכם ולסדר את התוצאה ברצף מתאים. משימות אלו עשויות להיות מטופלות על ידי רכיבים נפרדים או משולבות במערכת למידה, אך הן נותרות דרישות שונות. כשל מוקדם בתהליך עלול להשפיע על כל מה שבא אחריו.
שקול מאמר בעל שתי עמודות עם הערה בכתב יד בשוליים. המילים המודפסות עשויות להיות קלות לזיהוי, אך ההערה עלולה להיחשב בטעות כחלק מהטקסט הראשי והעמודות עלולות להשתלב זו בזו. בדיקת איות לא תפתור את הבעיה הזו. לעומת זאת, פסקה מסודרת בצורה מושלמת עדיין עשויה להכיל שם או תאריך שנקראו בצורה שגויה.
ההבחנה השימושית היא בין ראיות חסרות, זיהוי מוטעה ומבנה שאבד. זיהוי אותיות מדויק יותר אינו יכול לשחזר אזור שמעולם לא נכלל, ופריסה נקייה יותר אינה יכולה לקבוע איזה משני תווים דו-משמעיים נכתב בפועל.
תווים קטנים וצילום לקוי מגבילים את הראיות הזמינות
הזיהוי תלוי בהבדלים גלויים בין תווים. טשטוש יכול לסגור את הרווח באות e, למזג משיכות סמוכות או למחוק את ההבחנה בין פסיק לנקודה. טקסט קטן עשוי להכיל מעט מדי פיקסלים כדי לשמר את ההבדלים הללו. דחיסה חזקה עלולה להוסיף דפוסי בלוקים וצללים סביב קצוות, מה שגורם לקובץ להיראות קריא בגודל רגיל תוך פגיעה בפרטים שמזהה צריך.
ממדי תמונה וגודל קובץ הם לכן מדדים חלקיים לאיכות. תצלום גדול יכול להכיל דף קטן ומרוחק; סריקה ברזולוציה גבוהה עדיין יכולה להיות מחוץ לפוקוס. שינוי תווית DPI או הגדלת תמונה קיימת אינם מוסיפים מדידה חדשה של האותיות המקוריות. הנחיות צילום מפרויקט הדיגיטציה IMPACT מבחינות בהתאם בין טקסט רגיל לבין דפוס קטן מאוד, הדורש פירוט רב יותר.
צילום טוב יותר יכול להפחית את אי-הוודאות הזו כאשר המקור זמין. עם זאת, כאשר מילה מוסתרת על ידי סנוור, חתוכה או חסרה פיזית, אין ראיות גלויות לחלק זה של התמלול. שיפור עשוי להציע צורה סבירה, אך הוא אינו יכול לאמת את הניסוח החסר.
סיבוב, פרספקטיבה ועקמומיות דף יוצרים בעיות שונות
דף שצולם בזווית מציג יותר מבעיית סיבוב. פרספקטיבה יכולה להפוך צד אחד של הדף לצר מהשני, בעוד שהמשטח המעוקל של ספר יכול לכופף שורות ליד הכריכה. דף הצידה, סריקה מוטה מעט וספר פתוח ומעוות דורשים תיקונים גיאומטריים שונים. פשוט סיבוב של שלושתם לא יפיק את אותו שיפור.
עיוותים אלו עלולים להפריע לזיהוי שורות ולהפרדה של מילים שכנות. ליד כריכה, תווים עלולים להידחס יחד או להיות מוסתרים חלקית בצל. מחקר על יישור עיוותי מסמכים מתייחס לשחזור תצוגת דף שטוחה כמשימה בפני עצמה, מכיוון שצורת הדף משפיעה על הזיהוי שלאחר מכן.
לתיקון גיאומטרי יש גם גבולות. יישור טוב יותר יכול להקל על פירוש האותיות הקיימות, אך דגימה חוזרת עלולה לרכך פרטים קטנים, ויישור אינו יכול לחשוף טקסט שמעולם לא צולם. המטרה היא ייצוג שמיש של הראיות, לא רק דף שנראה מלבני.
דיו חלש וסימני רקע מתחרים בטקסט
לא כל סימן כהה שייך לתו. מרקם נייר, כתמים, קווים מודפסים, חותמות ודפוס הנראה דרך הצד האחורי יכולים להידמות לטקסט או לחצות אותו. בקצה השני, עיפרון חלש, דיו דהוי ופיסוק בהיר עלולים להיות קשים להבחנה מהרקע. אותו דף יכול להכיל את שני סוגי הבעיות.
ניקוי תמונה כרוך בפשרות. המרת דף לשחור-לבן דורשת החלטה אילו גוונים שייכים לסימני חזית ואילו שייכים לרקע. סף שמסיר מרקם נייר חיוור עלול גם למחוק נקודה עשרונית. הסרת רעשים עלולה להשליך מבטא קטן, בעוד שחידוד עלול לחזק קצוות לא רצויים. לכן, תהליכי עבודה של OCR מתייחסים לשיפור, בינאריזציה והסרת רעשים כפעולות נפרדות ולא כהגדרת ניקוי אוניברסלית.
סימנים חופפים דורשים טיפול מיוחד. חותמת עשויה להכיל מידע ששווה לשמר גם כשהיא חוצה פסקה, וחתימה עשויה להיות משמעותית מבלי להיות ניתנת לתמלול אמין. הסרת אזור מפריע ללא הבחנה עלולה להסיר חלק מהמסמך עצמו. תמונה נקייה ויזואלית אינה בהכרח נאמנה יותר.
טיפוגרפיה לא מוכרת מקשה על פירוש דפוס ברור
תמונה יכולה להיות חדה בעוד שהאותיות שבה נותרות לא מוכרות למזהה. גופנים דקורטיביים, סוג דפוס דחוס, ליגטורות וצורות תווים יוצאות דופן משנים את הדפוסים שיש לזהות. ליגטורה יכולה לחבר מה שהיה אחרת אותיות נפרדות; צורה ישנה של אות עשויה להידמות לתו מודרני אחר. אותיות רישיות קטנות, כתב עילי ופיסוק מרווח בצפיפות מציגים הבחנות נוספות.
מסמכים היסטוריים משלבים לעיתים קרובות מספר קשיים. גופנים משתנים בין בתי דפוס ותקופות, הכתיב עשוי להיות שונה מהשימוש המודרני, והנייר או ההדפסה עלולים להיות פגומים. מחקר על OCR היסטורי מזהה טיפוגרפיה ופריסה מורכבת כאתגרים מרכזיים ומשתמש בתהליכי עבודה המאפשרים תיקון במספר שלבים. שיפור ניגודיות התמונה לבדו אינו יכול לפתור כל צורת אות לא מוכרת.
קיימת גם בחירה עריכתית: תמלול דף ומודרניזציה של שפתו הן משימות שונות. החלפה אוטומטית של כתיב לא שגרתי במילה מוכרת עשויה להפוך פסקה לקלה יותר לקריאה, אך גם לפחות נאמנה למקור. יש להעריך שמות היסטוריים, קיצורים וציטוטים אל מול המוסכמות של המסמך עצמו.
כתב יד משתנה בין כותבים ובתוך אותו דף
לכתב יד אין קבוצה אחת ויציבה של צורות תווים. כותבים מחברים אותיות, משנים את נטייתן, מקצרים מילים ומשאירים רווחים לא עקביים. מילה שנכתבה בחיפזון עשויה להיראות שונה מאותה מילה שנכתבה בקפידה כמה שורות קודם לכן. משיכות קולמוס מחוברות גם מקשות על ההחלטה היכן מסתיים תו אחד והיכן מתחיל הבא.
זיהוי מבוסס רצף יכול להשתמש באותיות ובמילים שכנות כדי לפרש שורה, אך הקשר אינו מסיר עמימות. שם משפחה לא מוכר, קוד או מספר מבודד עשויים לספק עזרה לשונית מועטה. הערות שוליים, טקסט מחוק ותוספות מעל שורה יוצרים שאלה נפרדת לגבי אופן הייצוג של שינויי הכותב. אלו הם אתגרים של זיהוי ומדיניות תמלול כאחד.
ההבחנה בין זיהוי תמונה לבין הקלטת משיכת עט חיה חשובה גם היא. פתק סרוק מכיל את הסימנים הנראים הסופיים, אך לא את סדרם, מהירותם או כיוונם. מחקר כתב יד מבחין בין תמונות לא מקוונות אלו לבין קלט עט מקוון. אין להניח שהצלחה בתנועות עט שנלכדו או בתווים מופרדים בצורה מסודרת תעבור ללא שינוי לצילום של דף כתב יד שלם.
שפות, כתבים וכיווני קריאה מציגים עמימויות נפרדות
הגדרת שפה מספקת הקשר שימושי, אך שפה וכתב אינם זהים. מספר שפות יכולות לחלוק כתב תוך שימוש בדפוסי כתיב שונים או אותיות נוספות. מסמך עשוי גם לערבב כתבים בתוך משפט, כפי שקורה בכתובת המכילה שם רחוב בשפה מקומית ומזהה לטיני. זיהוי רב-לשוני חייב להתמודד עם מעברים אלו כמו גם עם התווים הבודדים.
שפת הזיהוי מתארת את הטקסט הנקרא, לא את שפת ממשק האתר. אפשרות שפה זמינה גם אינה מרמזת על דיוק שווה לכל גופן, סגנון כתיבה או תנאי צילום. מדדים רב-לשוניים בוחנים כתבים שונים וסצנות מעורבות בדיוק משום שיש לבחון ביצועים על פני חומרים מגוונים.
עבור ערבית, פרסית וכתיבה מימין לשמאל אחרת, סדר התצוגה מוסיף רובד נוסף. יוניקוד מבחין בין הסדר הלוגי של תווים מאוחסנים לבין סידורם החזותי. מספרים, סימני פיסוק ומילים לטיניות יכולים לעקוב אחר חוקי כיווניות שונים בתוך שורה אחת. שיבוש לכאורה עשוי לכן לערב זיהוי, אחסון טקסט או תצוגה. היפוך ידני של כל המחרוזת עלול לפגוע בתמלול שסדר התווים הבסיסי שלו כבר היה נכון.
מילים נכונות עדיין יכולות להופיע בסדר קריאה שגוי
פריסת מסמך מבטאת קשרים שמחרוזת תווים פשוטה אינה לוכדת אוטומטית. לעמודות, כותרות, כיתובים, הערות שוליים וסרגלי צד יש תפקיד. מזהה עשוי לקרוא את המילים שלהם בצורה נכונה תוך שילובן לרצף שגוי. משפט שקופץ לעמודה הסמוכה הוא שגיאה מבנית, גם אם כל מילה מאויתת נכון.
מחקר פריסה מראה גם מדוע סוגי מסמכים מוכרים אינם מבחן מלא. מערכת שפותחה סביב מאמרים מדעיים עשויה להיתקל בסידורים שונים במדריכים, טפסים או דוחות. החמצת כיתוב קטן או התייחסות לכותרת כאל טקסט גוף עלולה להשפיע על התועלת של התוצאה כולה. מציאת כל אזור רלוונטי וסידור אזורים אלו הם שניהם חלק מהערכת המרת מסמכים.
בעיות אלו חשובות לשימוש חוזר ונגישות. דף עשוי להיראות נכון בעוד שטקסט מועתק או פלט קולי עוקבים אחר סדר לא מתאים. הנחיות PDF של W3C מסבירות כיצד סדר קריאה לוגי תומך בנגישות. טקסט מזוהה הוא מועיל, אך הפקתו כשלעצמה אינה קובעת כי כותרות, סדר קריאה וצרכי נגישות אחרים של המסמך טופלו.
טבלאות, טפסים ונוסחאות תלויים בקשרים בין סימנים
משמעותה של טבלה תלויה בערך השייך לאיזו שורה ועמודה. תאים ממוזגים, כותרות חוזרות, תאים ריקים וטבלאות שנמשכות על פני דפים מסבכים את הקשר הזה. קריאת כל המספרים הנראים אינה מספיקה אם ערך אחד משויך לכותרת הלא נכונה. מחקר חילוץ טבלאות מפריד בין מציאת טבלה, שחזור המבנה שלה וזיהוי תפקידי התאים שלה.
טפסים מציגים בעיה קשורה. תווית והערך שלה עשויים להיות מופרדים על ידי רווח לבן, קו או הערה מתווכת. תיבת סימון סמוכה עשויה לשאת מידע שטקסט תמלול בלבד אינו מבטא. לדוגמה, חילוץ גם של 'מאושר' וגם של 'נדחה' מבלי לתעד איזו תיבה מסומנת מאבד את החלק המכריע של הטופס, למרות ששתי המילים זוהו נכון.
מספרים ונוסחאות גם מגדילים שגיאות קטנות. השמטת הנקודה העשרונית ב-12.5 משנה את הערך; בלבול בין סימן מינוס למקף יכול לשנות ביטוי. שברים, מעריכים וכתב תחתי מסתמכים על מיקום כמו גם על זהות התו. המבנה הדו-ממדי של נוסחה דורש ייצוג מתאים, ושחזור טבלאות ותמלול מתמטי זקוקים להערכה מעבר לאיות של מילים רגילות.
פלט שוטף יכול להסתיר השמטות ותיקונים לא נתמכים
הקשר שפה עוזר למזהה לבחור בין קריאות סבירות, אך סבירות ונאמנות הן מטרות שונות. מערכת עשויה להחליף שם לא מוכר במילה נפוצה, להסדיר שגיאת כתיב או לספק ניסוח שמתאים למשפט. התוצאה יכולה להישמע טבעית תוך התרחקות מהדף. זה חשוב במיוחד כאשר המשימה היא תמלול ולא עריכה.
מדד כתב יד 2026 בחן שגיאות כותב, שפות מרובות וביטויים מורכבים, ודיווח על תיקונים לא נתמכים ויזואלית במספר מערכות גנרטיביות. הממצא ממחיש מצב כשל ולא כלל שכל מערכת מתנהגת באופן זהה. באופן כללי יותר, פסקה מנוסחת היטב אינה הוכחה לכך שכל מילה הייתה נוכחת או שכל השורות המיועדות נכללו.
שגיאות יכולות להגיע גם מעיבוד מוקדם. PDF סרוק עשוי כבר להכיל שכבת טקסט OCR לא מושלמת, כך שטקסט שניתן לבחירה עדיין יכול להיות לא תואם לדף הנראה. הרצת זיהוי פעמיים מספקת השוואה נוספת, אך שתי ההרצות עלולות לבצע את אותה טעות. הסכמה בין פלטים אינה מחליפה את תמונת המקור, במיוחד כאשר תו או פסקה נותרים עמומים.
הדיוק תלוי בחומר ובמשימה הנמדדת
נתון דיוק הוא בעל משמעות רק עם מבחן מוגדר. התוצאות תלויות במסמכים, בתמלול הייחוס ובטיפול ברווחים, סימני פיסוק והבדלים אחרים. מדגם של פסקאות מודפסות ברורות אינו קובע ביצועים על טפסים בכתב יד או עיתון פגום. הערכה מייצגת כוללת את הדפים הקשים והפריסות הלא שגרתיות שחשובים לעבודה המיועדת.
שיעור שגיאות התווים מודד החלפות, השמטות והוספות ברמת התו ביחס לאורך הטקסט; שיעור שגיאות המילים מיישם השוואה מקבילה על מילים. הנחיות ההערכה של OCR-D מתייחסות למדדים אלו בנפרד מפריסה וסדר קריאה. הם עונים על שאלות שימושיות, אך שיעור שגיאה כללי נמוך עדיין יכול להסתיר מספר חשבון שגוי או שלילה חסרה שמשנה את משמעות המשפט.
לפיכך, הערכה צריכה לכלול שלמות, מבנה ופרטים חשובים, בנוסף לציונים מצטברים. חיפוש בארכיון, ציטוט וטבלה המיועדת לחישוב דורשים דרישות שונות. סימון קריאה לא פתורה אינפורמטיבי יותר מאשר בחירת הניחוש השוטף ביותר, ושמירת קישור למקור מאפשרת תיקונים מאוחרים יותר כאשר מתקבלות ראיות טובות יותר או כאשר מתבצעת סקירה.
דפוס השגיאה מצביע על הגורם הסביר לה
מספר גורמים יכולים להפיק את אותו תסמין גלוי, לכן אבחון הוא דרך לצמצם אפשרויות ולא ערובה. בלבול חוזר בין אותיות דומות מרמז על חקירה שונה מאשר מילים מאויתות נכון המופיעות בסדר שגוי. הדוגמאות להלן מחברות תסמינים נפוצים עם המידע שאולי אבד.
ברגע שהכשל מובן, התגובה יכולה להיות ממוקדת יותר: השגת מקור ברור יותר, תיקון גיאומטריה, בדיקת פרשנות של אזור או תיקון התמליל הסופי. המדריך הנפרד לשיפור תוצאות OCR מספק את תהליך העבודה להכנה וסקירה. המטרה היא לשמר את המידע של המסמך, לא פשוט להפיק טקסט שנראה נקי.
| תסמין גלוי | כשל בסיסי אפשרי | מידע בסיכון |
|---|---|---|
| אותיות דומות שמתבלבלים ביניהן שוב ושוב | פירוט לא מספיק או צורות תווים לא מוכרות | איות מדויק, שמות ומזהים |
| סימנים עמומים או סימני פיסוק נעלמים | ניגודיות נמוכה או סינון מוגזם | סימני הטעמה, נקודות עשרוניות והערות קטנות |
| מילים נכונות ברצף לא צפוי | עמודות מעורבבות או סדר אזורים שגוי | משמעות משפט ומבנה פסקה |
| ערכים מופיעים מתחת לכותרות הלא נכונות | אובדן קשרי שורה, עמודה או תווית | המשמעות של מספרים נכונים אחרת |
| טקסט בכיווניות מעורבת נראה משובש | זיהוי, סדר לוגי או התנהגות תצוגה | סדר מילים, סימני פיסוק ומזהים |
| ניסוח יוצא דופן הופך למוכר יותר | החלפה או שכתוב מונעי הקשר | שמות, איות וציטוטים נאמנים למקור |
| הערה או פסקה שלמה חסרה | אזור נחתך, פוספס או הושמט | שלמות התמליל |