האם נכשלנו במבחן טיורינג?

ב-1950 פרסם אלן טיורינג פרסם מאמר שכותרתו הייתה "מכונות חישוב ותבונה". במאמר זה הציע טיורינג, כנראה, להכריע בשאלה "האם מכונות יכולות לחשוב?" באמצעות משחק חברתי ששבה את דמיונם של חוקרי בינה מלאכותית עד עצם היום הזה. אתרו ברשת את הביטוי "מבחן טיורינג ו-ChatGPT" ותגלו את היחס העכשווי אל מבחן טיורינג, אף על פי שחלק מהתהיות שהמאמר מ-1950 מעורר נדונו בפרוטרוט לפני שש שנים (!) במאמרי על מבחן טיורינג באתר הנוכחי ובמאמרי "טיורינג נגד טיורינג: מבחן טיורינג במבחן" באתר "הבטים בהוראת מדעי המחשב" של הטכניון.

מנקודת מבט אקדמית, טקס ההכתרה של רעיון הבינה המלאכותית נערך בשנת 1956 בכנס קיץ באוניברסיטת דארטמוּת' ביוזמת ארבעה חוקרים – ג'ון מקרתי, מ' ל' מינסקי, נ' רוצ'סטר וקלאוד שאנון. מאז עברה הבינה המלאכותית כמה וכמה טלטלות. חשוב לציין שייחוס יכולת חשיבה למכונות בוטא כבר בשני מאמרים שפרסומם קדם לאותו כנס. האחד היה כאמור מאמרו המפורסם ומלא הסתירות של טיורינג משנת 1950. מתברר שבאותה שנה פרסם גם לופטי זאדה, ממציא הלוגיקה העמומה (Fuzzy Logic), מאמר שבכותרתו הצהיר במפורש: "מכונות חושבות – תחום דעת חדש בהנדסת חשמל".

בכנס הראשון של התחום, ב-1956, הצהיר מקארתי: "מטרת הכנס היא להתקדם על בסיס ההשערה שכל היבט של למידה או של כל תכונה של תבונה נוכל, בעיקרון, לנסח במדויק, עד כדי כך שניתן יהיה לבנות מכונה שבפעולתה תבצע הדמיה של אותו היבט". כלומר השערת היסוד של הבינה המלאכותית היא שנוכל תמיד להגיע לתיאור מדויק של תכונות הבינה האנושית ותיאור מדויק תמיד יאפשר את הדמיית המתואר באמצעות תוכנה (האם כל תכונה של תבונת האדם ניתנת לתיאור מדויק בטקסט?)

במלאת יובל לאותו כנס ראשון, ב-2006, בכנס AI@50, הצהיר מנהל הכנס פרופ' ג'יימס מור: "לפני חמישים שנה, חוקרים שבאו לכאן חשבו על דרכים להפוך מכונות למודעות יותר ויודעות יותר ורצו לבסס מסגרת להבנה טובה יותר של תבונת האדם" (האם ידוע למישהו על תרומה כלשהי להבנת תבונת האדם שהתקבלה מן המחקר בפיתוח בינה מלאכותית?)

במהלך יותר מחמישים השנים מאז יריית הפתיחה של תחום הבינה המלאכותית פותחו תוכנות רבות במסלול שתיאר מקארתי. פותחו שתי שפות תכנות מקסימות (ליספ ופרולוג), הוגדרו מודלים שונים להדמיית תכונות של בינה כללית ושל בינה דיסציפלינרית והופקו תוכנות מרשימות שפתרו בעיות שלפתרונן נדרשה בינה, מניצחון עקבי במשחק הדמקה, להוכחת משפט ידוע בגיאומטריה שלא הייתה ידועה למפתחי התוכנה ודרך ניתוח נתונים גיאולוגיים ורפואיים לאיתור מאגרי נפט ולאבחון מחלות ועד לניצחון במשחק שח נגד רב-אמן ואיתור וזיהוי רגשות. ובכל פעם ההתלהבות מהתוכנה התורנית התנדפה אחרי מספר שנים של שיכרון חושים והבינה המלאכותית נכנסה לתרדמת חורף…

בימים אלה אנו נמצאים ממש בשיא גל ההתלהבות מהתוכנה ChatGPT, התלהבות שאולי מתחילה לשכוך, כי הפגמים העקרוניים שמתגלים בה מתחילים לפגוע במשתמשים שלה. אני מציע לנצל הזדמנות זו כדי לערוך בירור מעמיק של רעיון הבינה המלאכותית.

לשם כך, אני מפנה אתכם לעיין במאמר של טיורינג מ-1950 שנחשב למאמר המכונן של הבינה המלאכותית. עיון יסודי במאמר הזה מעורר תהיות הרבה מעבר לחששות שביטאתי בדיון במבחן טיורינג באתר הנוכחי, בעיקר בנוגע למטרתו של טיורינג בכתיבת המאמר ההוא. אם נקבל את כל דבריו של טיורינג, נצטרך להסכים שהוא לא ניסח בו שום טיעון שמאשש את ההשערה שתהליך הלמידה שהציע יגיע לידי כך שמחשבים יהיו מסוגלים להיות נבונים ויהיו מסוגלים לחשוב כמו האדם. הרי הוא נרתע מהגדרת המונח "לחשוב". מה יבטיח אפוא לאיזה סוג של בינה יגיעו המחשבים הלומדים ולאיזו רמה? אז מנין נובעת ההתפעמות מהמאמר הזה של טיורינג? חשוב לציין שטיורינג חזה באותו מאמר מ-1950 שבימינו יתרגלו לרעיון שמכונות חושבות ולא יערערו על כך. בזה הוא אכן צדק.

לפי טיורינג עצמו, השאלה העיקרית שבה התמקד במאמר ההוא הייתה "האם מכונות יכולות לחשוב?" אבל הוא גם טען כי המודל המתאים ביותר לאפיון המחשב הדיגיטלי הוא פונקציה מתמטית (בעמוד 439 שם), ונוסף על כך הוא טען במפורש באותו מאמר כי "מנגנון וכתיבה הם, מבחינתנו, כמעט נרדפים" (בעמוד 456 שם). לכן, אם נקבל את דבריו, באותו מאמר, ללא היסוס, נצטרך לקבל גם את הטענה שפונקציה מתמטית וטקסטים יכולים לחשוב. השאלה העיקרית שעלינו להתעניין בה תהיה, מתי נוכל לדון בבינה מלאכותית שאינה נוצרת מטקסטים או מפונקציות מתמטיות?

לפי איכות הכתבות שמציפות אותנו וההתרגשות הבלתי מבוקרת מהצלחות ChatGPT והבורות המדהימה שהן מבטאות, למשל בהבנת עקרונות היסוד של כלל התוכנות הדיגיטליות, אני משוכנע שנכשלנו ב"מבחן טיורינג" המקורי, כלומר, בהבנת המאמר של טיורינג מ-1950. אני מרגיש חובה להסיק שרעיון הבינה המלאכותית, מיסודו, היה רעיון חסר תוחלת.

אבל אל תנסו להסיק מדבריי שאני טוען שאין סכנה בפיתוח כלים דיגיטליים מרשימים. אמנם כלים דיגיטליים לא יוכלו לחשוב כמו בני אדם, אבל אין פירוש הדבר שהשימוש בהם לא יוכל להזיק לבני אדם. כפי שטען מקלוהן ב-1964, השימוש באמצעים יזיק לנו, אם לא נבין אותם.