האם נכשלנו במבחן טיורינג?

האם טיורינג הצליח לשטות בנו כדי להוכיח את גאונותו?
תמונתו של ישפי
פרופסור יהושפט גבעון

ב-1950 פרסם אלן טיורינג פרסם מאמר שכותרתו הייתה "מכונות חישוב ותבונה". במאמר זה הציע טיורינג, כנראה, להכריע בשאלה "האם מכונות יכולות לחשוב?" באמצעות משחק חברתי ששבה את דמיונם של חוקרי בינה מלאכותית עד עצם היום הזה. אתרו ברשת את הביטוי "מבחן טיורינג ו-ChatGPT" ותגלו את היחס העכשווי אל מבחן טיורינג, אף על פי שחלק מהתהיות שהמאמר מ-1950 מעורר נדונו בפרוטרוט לפני שש שנים (!) במאמרי על מבחן טיורינג באתר הנוכחי ובמאמרי "טיורינג נגד טיורינג: מבחן טיורינג במבחן" באתר "הבטים בהוראת מדעי המחשב" של הטכניון.

מנקודת מבט אקדמית, טקס ההכתרה של רעיון הבינה המלאכותית נערך בשנת 1956 בכנס קיץ באוניברסיטת דארטמוּת' ביוזמת ארבעה חוקרים – ג'ון מקרתי, מ' ל' מינסקי, נ' רוצ'סטר וקלאוד שאנון. מאז עברה הבינה המלאכותית כמה וכמה טלטלות. חשוב לציין שייחוס יכולת חשיבה למכונות בוטא כבר בשני מאמרים שפרסומם קדם לאותו כנס. האחד היה כאמור מאמרו המפורסם ומלא הסתירות של טיורינג משנת 1950. מתברר שבאותה שנה פרסם גם לופטי זאדה, ממציא הלוגיקה העמומה (Fuzzy Logic), מאמר שבכותרתו הצהיר במפורש: "מכונות חושבות – תחום דעת חדש בהנדסת חשמל".

בכנס הראשון של התחום, ב-1956, הצהיר מקארתי: "מטרת הכנס היא להתקדם על בסיס ההשערה שכל היבט של למידה או של כל תכונה של תבונה נוכל, בעיקרון, לנסח במדויק, עד כדי כך שניתן יהיה לבנות מכונה שבפעולתה תבצע הדמיה של אותו היבט". כלומר השערת היסוד של הבינה המלאכותית היא שנוכל תמיד להגיע לתיאור מדויק של תכונות הבינה האנושית ותיאור מדויק תמיד יאפשר את הדמיית המתואר באמצעות תוכנה (האם כל תכונה של תבונת האדם ניתנת לתיאור מדויק בטקסט?)

במלאת יובל לאותו כנס ראשון, ב-2006, בכנס AI@50, הצהיר מנהל הכנס פרופ' ג'יימס מור: "לפני חמישים שנה, חוקרים שבאו לכאן חשבו על דרכים להפוך מכונות למודעות יותר ויודעות יותר ורצו לבסס מסגרת להבנה טובה יותר של תבונת האדם" (האם ידוע למישהו על תרומה כלשהי להבנת תבונת האדם שהתקבלה מן המחקר בפיתוח בינה מלאכותית?)

במהלך יותר מחמישים השנים מאז יריית הפתיחה של תחום הבינה המלאכותית פותחו תוכנות רבות במסלול שתיאר מקארתי. פותחו שתי שפות תכנות מקסימות (ליספ ופרולוג), הוגדרו מודלים שונים להדמיית תכונות של בינה כללית ושל בינה דיסציפלינרית והופקו תוכנות מרשימות שפתרו בעיות שלפתרונן נדרשה בינה, מניצחון עקבי במשחק הדמקה, להוכחת משפט ידוע בגיאומטריה שלא הייתה ידועה למפתחי התוכנה ודרך ניתוח נתונים גיאולוגיים ורפואיים לאיתור מאגרי נפט ולאבחון מחלות ועד לניצחון במשחק שח נגד רב-אמן ואיתור וזיהוי רגשות. ובכל פעם ההתלהבות מהתוכנה התורנית התנדפה אחרי מספר שנים של שיכרון חושים והבינה המלאכותית נכנסה לתרדמת חורף

בימים אלה אנו נמצאים ממש בשיא גל ההתלהבות מהתוכנה ChatGPT, התלהבות שאולי מתחילה לשכוך, כי הפגמים העקרוניים שמתגלים בה מתחילים לפגוע במשתמשים שלה. אני מציע לנצל הזדמנות זו כדי לערוך בירור מעמיק של רעיון הבינה המלאכותית.

לשם כך, אני מפנה אתכם לעיין במאמר של טיורינג מ-1950 שנחשב למאמר המכונן של הבינה המלאכותית. עיון יסודי במאמר הזה מעורר תהיות הרבה מעבר לחששות שביטאתי בדיון במבחן טיורינג באתר הנוכחי, בעיקר בנוגע למטרתו של טיורינג בכתיבת המאמר ההוא. אם נקבל את כל דבריו של טיורינג, נצטרך להסכים שהוא לא ניסח בו שום טיעון שמאשש את ההשערה שתהליך הלמידה שהציע יגיע לידי כך שמחשבים יהיו מסוגלים להיות נבונים ויהיו מסוגלים לחשוב כמו האדם. הרי הוא נרתע מהגדרת המונח "לחשוב". מה יבטיח אפוא לאיזה סוג של בינה יגיעו המחשבים הלומדים ולאיזו רמה? אז מנין נובעת ההתפעמות מהמאמר הזה של טיורינג? חשוב לציין שטיורינג חזה באותו מאמר מ-1950 שבימינו יתרגלו לרעיון שמכונות חושבות ולא יערערו על כך. בזה הוא אכן צדק.

לפי טיורינג עצמו, השאלה העיקרית שבה התמקד במאמר ההוא הייתה "האם מכונות יכולות לחשוב?" אבל הוא גם טען כי המודל המתאים ביותר לאפיון המחשב הדיגיטלי הוא פונקציה מתמטית (בעמוד 439 שם), ונוסף על כך הוא טען במפורש באותו מאמר כי "מנגנון וכתיבה הם, מבחינתנו, כמעט נרדפים" (בעמוד 456 שם). לכן, אם נקבל את דבריו, באותו מאמר, ללא היסוס, נצטרך לקבל גם את הטענה שפונקציה מתמטית וטקסטים יכולים לחשוב. השאלה העיקרית שעלינו להתעניין בה תהיה, מתי נוכל לדון בבינה מלאכותית שאינה נוצרת מטקסטים או מפונקציות מתמטיות?

לפי איכות הכתבות שמציפות אותנו וההתרגשות הבלתי מבוקרת מהצלחות ChatGPT והבורות המדהימה שהן מבטאות, למשל בהבנת עקרונות היסוד של כלל התוכנות הדיגיטליות, אני משוכנע שנכשלנו ב"מבחן טיורינג" המקורי, כלומר, בהבנת המאמר של טיורינג מ-1950. אני מרגיש חובה להסיק שרעיון הבינה המלאכותית, מיסודו, היה רעיון חסר תוחלת.

אבל אל תנסו להסיק מדבריי שאני טוען שאין סכנה בפיתוח כלים דיגיטליים מרשימים. אמנם כלים דיגיטליים לא יוכלו לחשוב כמו בני אדם, אבל אין פירוש הדבר שהשימוש בהם לא יוכל להזיק לבני אדם. כפי שטען מקלוהן ב-1964, השימוש באמצעים יזיק לנו, אם לא נבין אותם.

Facebook
Twitter
LinkedIn
WhatsApp
Email

7 תגובות

  1. כמו בכל תחום שבו מתפפתחות יכולות חדשות ונילווים אליהן כמובן סכנות, גם בתחום הזה יצוצו בקצב כזה או אחר האמצעים לנטרל את הסכנות האלה

    1. אתה בעצם מחזק את הנאמר בבראשית ג ה': "כי יודע אלוהים, כי ביום אכללכם ממנו (מעץ הדעת) ונפקחו עיניכם והייתם כאלוהים…" במלים אחרות ככל שהאדם מחכים, או מתחכם, הוא לעולם לא יגיע לרמת התבונה שניתנה לו על ידי אלוהים, או על ידי הטבע, או איך שתקרא לזה.

    2. לג', תודה על הערתך.
      האם צצו כבר האמצעים לניטרול הסכנות מתרופות סינתטיות, מזיהום אוויר ומהשימוש בסמים או ברשתות החברתיות? אמצעים לא צצים אלא מומצאים ונבנים במאמצים ממוקדים של בני-אדם נבונים. בגלל שלא מלמדים בגלוי את העקרונות של כל המנגנונים הדיגיטליים רוב הקוראים אינם מודעים לקיומם של קשיים עקרוניים הגלומים במנגנונים האלה. רוב המגיבים על טענותי אפילו לא קראו את המאמרים שכתב טיורינג (ב-1936 וב-1950) ובמקום להגיב הם מפריחים בלונים…

  2. לכל מי שיש תיאוריה יעשה ככל יכולתו להביא לה הסכמה גדולה ככל האפשר

  3. דבר אחד ברור שאתה סבור שבטכנולוגיות החדשניות יש סכנות. נכון. אבל כנראה שהתועלת גדולה מהנזק

    1. לאביגיל תודה על הערתך,
      כמדומני מעולם לא כתבתי שיש בטכנולוגיות אלה או אחרות סכנות. בשימושים יש ובשימושים ללא הבנתן יש. ובעיקר יש בטכנולוגיות הדשניות מגבלות עקרוניות ועל כך כתבתי כמכ וכמה פעמים. מה תעדור לך אמונתך אם אינך יודעת על המגבלות האלה? כמו שהטכנולוגיות אינן צצות, כך מגבלותיהן אינן מתפוגגות מאליהן.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של מנשה

זו שעתנו הגדולה

על חשיבות החוסן הלאומי והחברתי של הפרט והחברה כולה

תמונה על גדעון

האם יחזרו?

האם אכן עושים את המירב לשחרור החטופים?

דילוג לתוכן