שגיאה לוגית שכיחה ומובנת

אחת התגובות הנפוצות ביותר של קוראים שנתקלו במאמרים שלי שבהם תיארתי מגבלות של הבינה המלאכותית, מעידה על כשל לוגי. בשנים האחרונות כתבתי כמה מאמרים על מגבלות הבינה המלאכותית והטכנולוגיה הדיגיטלית. כמעט בכל פעם נמצא קורא שטען לעומתי שאינני צודק, משום שיש התקדמות רבה בפיתוח תוכנות בכלל ובבינה מלאכותית בפרט, משום שהתקדמות זו תימשך בלי הרף ומשום שלדעתו זה מעיד שאין לתוצרי ההתקדמות הזאת מגבלות עקרוניות.

כדי להבין שמופיעה כאן שגיאה לוגית, צריך להבין כמה דברים שכל תלמידי המתמטיקה והמדעים לומדים: כאשר טוענים טענה ללא הסתייגות, מספיקה דוגמה אחת שסותרת אותה כדי להפריך את הטענה כולה. במקרה שלנו, אם טוענים שתהליך מסוים מתפתח ללא גבול משום שהוא מתפתח ללא הפסקה, כדי להפריך את הטענה מספיק להביא דוגמה אחת של תהליך כלשהו שגדל בלי הפסקה ושיש לו גבול מוחלט. לדוגמה כזו קוראים בלוגיקה ובכל יישומיה "דוגמה נגדית". אם כן במקרה שלנו לא מספיק לטעון "אבל בטכנולוגיה יש התפתחות כל הזמן" או "אבל הבינה המלאכותית מתקדמת ללא הפסקה" כדי להסיק שלטכנולוגיה אין מגבלות ושהבינה המלאכותית תתפתח ללא הגבלה כלשהי, כי קיימות דוגמאות רבות של תהליכים המתפתחים בלי הרף אבל ככלל נשארים מוגבלים.

על פניו הטיעון "אם משהו גדל בלי הפסקה אז הוא יגדל בלי שום הגבלה" נראה תקף בהחלט, אך להלן אביא דוגמאות המפריכות אותו – דוגמה חשבונית אחת, דוגמה היסטורית דמיונית אחת ולפחות דוגמה אחת מתולדות הבינה המלאכותית עצמה.

אפשר להגדיר סדרה של מספרים שעולה בלי הפסק, ובכל זאת היא נשארת מוגבלת לחלוטין. נתחיל במספר 1. נוסיף לו את המספר חצי (1/2). נוסיף לסכום את המספר רבע (1/4). נוכל להמשיך בדרך זו ללא הפסקה. האם נגיע למספר שיהיה גדול מ-2? ודאי שלא. הסדרה שתתקבל היא:

1/1, 3/2, 7/4, 15/8, 31/16, 63/32….

כל מספר נוסף בסדרה גדול מקודמו (ב-1 חלקי שתי פעמים המכנה של הקודם), כלומר הסדרה גדלה ללא הפסקה, ובכל זאת כל מספר המופיע בה קטן מ-2 (בדיוק ב-1 חלקי המכנה שלו). אף שהמספרים בסדרה גדלים וגדלים בלי סוף, הם לעולם לא יהיו גדולים מ-2. הדוגמה הזאת מוכיחה שגידול מתמיד אינו בהכרח גידול בלי הגבלה.

הפרכת הטיעון בנוגע להתפתחות הבינה המלאכותית דורשת דוגמאות נגדיות מתוחכמות יותר. כאשר אין רקע וניסיון מספיקים בלוגיקה, יש צורך במגוון של דוגמאות נגדיות כדי להשתכנע שהעובדה שאיכות הבינה המלאכותית מתפתחת בלי הפסק אינה בהכרח מובילה למסקנה שהיא תגיע לכל רמה של איכות ואף תעבור אותה. גם מושג ההתפתחות איננו ברור כל כך, ולכן דרושות כמה דוגמאות נגדיות כדי להשתכנע בכשל הלוגי בחשיבה שאם ההתפתחות אין-סופית, אז ממילא היא אינה מוגבלת.

הדוגמה ההיסטורית (הדמיונית) היא לקח ידוע בכימיה. תארו לכם שהאלכימאים הצליחו להרכיב תרכובות כימיות מורכבות יותר ויותר ממספר גדל והולך של רכיבים. אף שהמורכבות של תוצריהם גדלה בדוגמה הזאת בלי הפסקה, ואף שתוצריהם היו בעלי שימוש נרחב יותר ויותר, המטרה של האלכימיה לא הושגה בדרך זו. גם אם ערך השימושים בתרכובות הלך וגדל, הם מעולם לא הצליחו להרכיב זהב מרכיבים זולים יותר בתהליכים שבהם השתמשו. הם לא רק לא הצליחו, הם גם לא יכלו להצליח.

הדוגמה הנגדית הבאה מוכרת למי שבקי בתולדות הבינה המלאכותית. תארו לכם מצב שבו בניסיונות הראשונים לפתח תוכנות תרגום, הייתה מקובלת התפיסה שפעולת התרגום היא ביסודה פעולה של החלפת מילים. לפי תפיסה זו, מילה מקורית בשפה הרוסית צריכה להיות מוחלפת במילה או בביטוי באנגלית בעלי משמעות קרובה למשמעות המילה המקורית ברוסית. הכלי שמאפשר לנו ביצוע הולם של החלפה זו נקרא מילון. המנחה שלי בלימודי הפוסט-דוקטורט, פרופ' אנתוני אוטינג'ר מאוניברסיטת הרווארד, היה מראשוני המפתחים של מילון ממוחשב. אין ספק שתהליך מתמיד של שיפור המילון הממוחשב יביא לשיפור ניכר מתמיד בתוכנות התרגום. אך מובן שתפיסת המילון הממוחשב כגורם מרכזי בתוכנות תרגום מתעלמת מהסתמכות על המבנים הדקדוקיים האופייניים לכל שפה המעורבת בתהליך התרגום. תהליך מתמיד של שיפור המילון הממוחשב לעולם לא יביא להתפתחות תוכנות תרגום המשתוות לתרגום אנושי מקצועי. הדוגמאות שהצגתי במאמר קודם שלי, על בעיות בתרגום מאנגלית לעברית תומכות בטענה שתרגום איכותי אינו יכול להסתמך רק על מילון המספק משמעויות למילים.

כמובן כל "הטכנולוגיות הדיגיטליות" נשארות טקסטואליות ולוקליות בכל פיתוח שלהן. שום התפתחות שלהן לא מוציאה אותן ממגבלות אלה. ומצד שני, כמובן קיימים תהליכים של פיתוח תוכנות מתקדמות, יותר ויותר, בלי סוף. הדוגמאות שהבאתי מוכיחות רק שאי אפשר להסתמך על התפתחות אין-סופית כדי להפריך טענות על מגבלות. כדי לטעון נגד המגבלות העקרוניות שיש לבינה דיגיטלית, יש להצדיק את הטענה ביותר מאשר בהצהרה, "אבל הבינה המלאכותית מתקדמת ומתפתחת ללא הרף". האם לבינה הדיגיטלית יש תכונות מיוחדות ההופכות כל תהליך התקדמות שלה לתהליך שתוצריו יהיו בלתי מוגבלים? מה הן תכונות אלה? ייתכן שיש, אבל לא נמצא להן זכר בכל המחקרים שנעשו בחקר המנגנונים הדיגיטליים משנות ה-30 של המאה הקודמת ועד עצם היום הזה.