בשבועות האחרונים אני מוצף בהזמנות לכנסים ובכתבות ובמאמרים בנושא הבינה המלאכותית. אם נקרא בעיון מה כותבים על ChatGPT נגלה שכנראה תוכנה זו ריסקה את התבונה האנושית לחלוטין. במאמרים קודמים, לפני כמה שנים, ניתחתי והצגתי שגיאות רבות שהכותבים, מרוב התלהבות מהטכנולוגיה הדיגיטלית בכלל ומרעיון הבינה המלאכותית בפרט, פשוט שגו בהן. מהתעלמות מהצלחות העבר ועד להתעלמות ממגבלות עקרוניות של תוכנות בכלל ושל כלים המתפקדים בתוכנות לבינה מלאכותית (כמו רשתות הנוירונים). כמעט בכל מאמר או כתבה הנוגעת לבינה מלאכותית אפשר למצוא את השגיאות האלה.
לדוגמה, ב-9 ביוני השנה, באתר "הידען", המציג את עצמו כאתר הגדול ביותר בישראל למדע, פרסם דותן רייס מאמר "מה אפשר ללמוד מ-ChatGPT על להיות בן-אדם?" בין שאר הטענות שהביא רייס להצדקת דבריו הוא גייס את הוגה הדעות ויטגנשטיין ואת ספרוֹ "חקירות פילוסופיות" שיצא לאור ב-1953. בספר זה, לכאורה, ויטגנשטיין דן בקשר בין ידיעת החשבון לתפיסת מושג האין-סוף, ואני מצטט את רייס:
"למעשה אנחנו לא יכולים (או צריכים) להחזיק את הדבר כולו בבת אחת. מה שיש לנו זה את היכולת להתקדם צעד אחר צעד… אנחנו יודעים לקחת כל מספר ולהוסיף לו 1… זאת המשמעות של… להבין את האינסוף… כך, כשאנחנו מבינים נושא מסוים, כשאנחנו יודעים משהו, הדבר שאותו אנחנו יודעים הוא הכלל שעוקבים אחריו." בבדיקה שאני ערכתי בספרו הוברר לי שוויטגנשטיין לא טען זאת בכלל. אך רייס ממשיך, "מטענותיו של וויטגנשטיין משתמע, להבנתי, שמה שמאפיין אותנו – יש לנו מכשיר מנטלי מסוים שבהינתן מצבים שונים מוציא פלטים שונים. אם המכשיר הזה יודע להוסיף 1 לכל מספר, האדם מבין את המושג 'אינסוף'".
ויטגנשטיין ניסה להסביר לנו ולהגדיר מתי אנו יודעים תוכן מסוים. הרעיון שלו שמהות ניתנת להבנה ולהגדרה על סמך פעולות השימוש במהות, התקבל על ידי מתמטיקאים רבים, לדוגמה טימותי גוֹורס בספרו "מתמטיקה: מבוא קצר מאוד" שיצא לאור בסדרת המבואות היוקרתית מבית הוצאת אוקספורד בשנת 2002. בפרק 2 הסביר לנו גוורס שמספר, כמו כלי במשחק שחמט, מוגדר על ידי מה שאנו יכולים לעשות בו. גוורס ציין במפורש שמקור הגישה הזאת הוא ויטגנשטיין. ודרך אגב, ויטגנשטיין בעשרות הזדמנויות בספר "חקירות פילוסופיות" השתמש במשחק השחמט כדי להמחיש את טיעוניו.
ואולם, אני טוען שכאשר אנו יודעים ש"משהו" יודע לבצע פעולה "לכל מספר", אז קודם כול עלינו להכיר את כל המספרים שעליהם חלה הפעולה. ונוסף על כך, היכולת לבצע את פעולת העוקב (מ-x ל-x+1) "לכל מספר" איננה מבטיחה שנקבל אין-סוף תוצאות שונות מבלי שנדע או שנניח על המספרים הנדונים שיש להם תכונות המחייבות זאת. למשל, התכונות שתוארו באקסיומות של פיאנו מאפשרות לנו לדעת הרבה דברים על המספרים הטבעיים, וכלל לא ברור כיצד אנו יודעים את האקסיומות האלה כנגזרת של ידיעת פעולת העוקב. למשל כיצד יודע אותו מכשיר מנטלי שרייס התייחס אליו, שבמספרים גדולים מאוד לא ניגרר ללולאה אין-סופית? ובעיקר, פעולת העוקב לא תוכל ללמד אותנו את מושג האין-סוף אלא רק אחרי שנדע כבר שקיימת קבוצה שמתקיימות בה אקסיומות כמו של פיאנו.
התפיסה המתמטית של ויטגנשטיין הייתה מורכבת מאוד ולא התקבלה על ידי רוב המתמטיקאים. למשל ויטגנשטיין התנגד לתורת הקבוצות של קנטור והאמין שבירור פילוסופי יוכל להשפיע על המתמטיקאים לזנוח את העניין בה. הוא התנגד גם למושג ההוכחה כפי שהיה מקובל במתמטיקה מאז תאלס, פיתגורס, אוקלידס, ארכימדס ופרגה. הוא לא הגדיר מה זאת קבוצה אין-סופית בספרו הנדון. ובעיקר, מטיעוניו של ויטגנשטיין לא נובע לוגית שמערכת כמו ChatGPT תוכל להבין את מושג האין-סוף.
השכיחות העצומה של השגיאות במאמרים המופיעים חדשות לבקרים והדנים בבינה המלאכותית שכנעה אותי שמדובר כאן בתופעה מנטלית כללית. לדעתי האישית, מי שמנסה לחשוב על בינה מלאכותית חייב להתמגן תחילה מפני מעידות מנטליות. למשל עליו לנהוג כפי שנדרש מכל תלמיד לתואר במתמטיקה. לפני שיכתוב על נושא מסוים, עליו לסקור את כל מה שהתפרסם כבר בנושא.
כפי שהשימוש הממושך ברשתות החברתיות מעלה את סף החרדות של המשתמש הבלתי מוגן, כך חשיבה על בינה מלאכותית נוטה לרדת מהפסים, והיכולת האקדמית של הכותבים על אודותיה נפגעת. הקורא הבלתי נזהר יאמין בנקל שממערכת כמו ChatGPT אפשר ללמוד על מה זה להיות בן אדם.
15 תגובות
כותרת המשנה מבהילה
לישראל, תודה על תגובתך הכנה.
אבל, זאת המציאות העגומה. ב-99% מהמאמרים העוסקים בבינה מלאכותית שקראתי נפלו שגיאות מחפירות. אינני אץ להסיק שזה מוכיח שהעיסוק בבינה מלאכותית מערער את הבינה הטבעית, אלא זה רק מעורר את חששותיי.
ואלו הן כמה מהמכשלות המופיעות במאמרים אלה:
1. בהמשך למה שגילה דיילייט (https://www.jokopost.com/it/15357/) הכותבים מדברים על העולם הדיגיטלי מבלי לקרוא ולהבין את עבודתו של טיורינג;
2. הכותבים אינם מודעים לממצאיו של סטיבן קלייני בנוגע לרשתות נוירונים ( https://jokopost.com/it/41020/ ) ולמשמעותם מבחינת היקף האפשרויות שעומדות לרשות כלים שמבוססים על רשלתות נוירונים;
3. הכותבים אינם מודעים לכך שהלמידה המתבצעת על-ידי "מכונות לומדות" אינה עולה באיכותה על למידת יונים ולא חל שינוי בתפיסה זו של המכןנות הלומדות, מאז שנות ה-50;
זה באמת מבהיל וכדי להתגבר על זה צריך לקרוא ולקרוא ולקרוא
שאלה של הדיוט בנושא:
אם החשיבה האנושית מסוגלת להתקדם רק באופן דיסקורסיבי (אינדוקציה, דדוקציה וכ')
ואין למוח שלנו פוטנציאל של ראיה סינופטית (קליטה בו זמנית של כל הפרטים), האם הבינה המלאכותית (עקרונית) משוחררת ממגבלה כזו?
לאביבה, תודה על שאלתך.
מניין לך שהחשיבה האנושית מסוגלת "להתקדם רק באופן דיסקורסיבי" ?? הבינה המלאכותית, בהיותה תוכנה, מסוגלת לראות רק תו אחד בכל פעם. תהיה לה יכולת עליך לבצע אינדוקציה, דדוקציה, ופעולות קסם אחרות על טקסטים רק אם אנו נדע להגדיר פעולות אלה במונחים של "תו אחד בכל פעם". אני מציע לך להתקדם ולצאת ממצב ההדיוטות וללמוד קצת על אופי התוכנות (והמחשבים), ואז תדעי שאין זו דעתי האישית שתוכנות רואות רק תו אחד בכל פעימה של פעולתן. זה נכון כל עוד ההגדרות של פוסט, גו'דל, פטר, קלייני וטיורינג למושג התוכנה הן בתוקף.
במקום להתייחס אלי אישית עדיף היה להבין את השאלה . מילא.
לאביבה, בזה ששאלתי מהו הבסיס שלך לטענה שלך אינני מתייחס אליך אישית אלא אל טענתך על החשיבה האנושית. כי צדקת, אינני מבין אותה. אודה לך אם תסבירי את טענתך.
כתבתי אך ורק על תוכנות שפועלות על סמך מה שמופיע במשבצת בודדת בתהליך החישוב ולא יותר.ותוכנות מבצעות רק תהליכים כאלה. זאת הסיבה שבבינה המלאכותית העכשיוית מסתמכים על סטטיסטיקות מוגבלות מאד ולא על מבנים כמו אלה הקיימים בשפה האנושית.
האמת היא שמהדיר שכיח של קודים בשפת תכנות שכיחה מאז המצאת המהדירים (כמו של שפת קובול – המצאתה של גרייס הופר) מסוגלת לזהות מבנים שהבוט chatGPT אינו מסוגל.
תודה שפי. השאלה שלי (שכאמור אינה נובעת מעיסוק מקצועי בנושא) מבטאת בהקשר זה סקרנות לגבי הפוטנציאל של הבינה המלאכותית שכולנו קצת חרדים מפניה.
ההנחה שלי היא שהמוח האנושי אינו יכול להתמקד בו זמנית ביותר מנושא אחד, וכל אלה הטוענים ל- multi {למשל מולטי טסקינג וכ') פשוט מגדירים יכולת מהירה מאד של מעבר מנושא לנושא כעיסוק בו -זמני. אין לי הוכחות לא לכאן ולא לכאן, אלא התרשמות. על בסיס זה ותוך הצפי על יכולות הבינה המלאכותית
עלתה אצלי את התמיהה או השאלה האם היכולת הבו זמנית הטוטאלית לצפות בכל היקום על פרטיו (שהמאמינים מייחסים לאלוהים) היא אפשרית במידה זו או אחרת בבינה המלאכותית.
לאביבה, תודה על תשובתך.
אם את סקרנית לגבי "הפוטנציאל של הבינה המלאכותית", הצעתי לך לפעול לפי הצעתו של מקלוהן משנות ה-60 של המאה הקודמת.
אם תביני שתוכנות לא יכולות לחרוג מהתכונות שמגדירות אותן תקבלי תשובה פשוטה לשאלה שלך על יכולת הבינה המלאכותית "לא." הבינה המלאכותית יכולה לצפות רק בתווים בודדים ואיינה מסוגלת להגיע ליכולת "הבו זמנית .. לצפות בכל היקום על פרטיו". היא איננה מסוגלת לצפות אפילו במה שמתרחש בחדרך… היא צופה רק בנתוני הקלט שיכולים להגיע ממקומות שונים לפי אירגונם כ"מבני נתונים".
כנראה לא הסברתי טוב מספיק שאינני חרד מפני הבינה המלאכותית, אלא רק מפני המשתמשים הלא נזהרים .
לפי רמת שאלותיך, אני בטוח שתוכלי להתמודד עם קריאת 2-3 ממאמריו המקוריים של טיורינג ולהיות בטוחה במה דברים אמורים.
גמר חתימה טובה וכל טוב,
תודה רבה ושנה טובה גם לך.
הבנתי מדבריך שהבינה המלאכותית היא לא יותר ממכונה אחרת (למשל כלי נשק) שסכנותיה נובעות מהשימוש שבני אדם עושים בה ולא מאפשרות של שינוי ספונטני ועצמאי של תכונותיה. ברשותך אשאל בהזדמנות זו שאלה אחרת: מתימטיקה היא הרי מוצר של מוח האדם, לא מסקנה של תצפית, ובכל זאת יש קורלציה בינה לבין המציאות מחוץ למוח, לפחות במידה והנחת היסוד שלה היא מציאותית. זה אומר שתיתכן גם מתימטיקה תקפה מבחינה לוגית שאינה אמת (מציאותית) כי הנחת היסוד שלה מומצאת, ומתימטיקה הופכת למדע רק עם הוכחה אמפירית, כמו כמדומני עם תורתו של איינשטיין שהפכה למדע רק כשהטכנולוגיה איפשרה תצפית בחלל.
מכיון שלבינה המלאכותית אין פוטנציאל פריצה מעבר למה שהאדם שתל בה, השאלה שלי היא באם
עקרונית יש אפשרות פריצה כזו עם מתימטיקה הנובעת ממוח לא אנושי זר, שאינו כבול במתימטיקה של המוח האנושי, או במגבלות הטכנולוגיה האנושית.
קצת מפתיע שפרופסור שבא מתחום הטכנולוגיה כל כך חושש מהטכנולוגיה של בינה מלאכותית
נהפוך הוא: יוסיף דעת, יוסיף מכאוב.
לנעלם נ.,
אינני חושש מהטכנולוגיה. אני חושש ממה שהמשתמשים בה בבורותם יעשו. למשל לא יקראו דברים כתובים עד סופם..
וסלח לי נ., אני פרופסור למתמטיקה ולא באתי "מתחום הטכנולוגיה".
לדעתי משפט הסיום של המאמר מבהיר את עיקר עמדתך. ואני מסכימה עם זה לגמרי. כבר עכשיו אנשים מקבלים שטויות תוצרת הבינה המלאכותית כדברי קודש. ממש דת.
אין לי הבנה עמוקה בנושא
כמו כולם אני סקרנית בכיוון
המאמר שם לי נקודות למחשבה