מה אם יתברר שתוכנות הבינה המלאכותית הן נפלים?

ב-13 באוגוסט 2023 פורסם באתר של גארי מרקוס מאמר חריף שכותרתו: "מה אם יתברר שהתוכנות היוצרות של הבינה המלאכותית, הן נפלים?" בתמונת השער של המאמר מופיע צילום של צפלין ענק של חיל הים האמריקאי שמרחף על פני מי מפרץ ובצילו שטה אוניית מסחר שמניפה את דגל ארה"ב. בתחתית התמונה המרשימה הזו נכתב: "טכנולוגיות המתרחבות במהירות, באופן אחיד, אינן מקיימות את הבטחתן".

במאמר הזה אני מבקש להציג את פרטי הטיעונים של מרקוס שמסתיימים בטיעון הפשוט הבא: "אם הזיות (של תוכנת הבינה המלאכותית היוצרת, gAI) אינן ניתנות לתיקון, gAI, כנראה לא תכניס ביליון דולרים בשנה. ואם היא כנראה לא תפיק ביליון דולרים בשנה, היא כנראה לא תפיק את התוצאה שאנשים מצפים ממנה. ואם היא לא תפיק את התוצאה הזו, ייתכן שעלינו להימנע מלבנות את עולמנו סביב ההנחה שהיא אכן תפיק אותה." (התרגום שלי).

כיצד הגיע מרקוס למסקנה הזו?

(1) הבינה המלאכותית היוצרת (בראשי תיבות gAI) היא הנושא הלוהט ביותר בעולם.

(2) ההכנסות המצופות ממנה (בטווח הביליונים) עדיין לא מומשו.

(3) ההכנסות כיום הן בעיקר מפעילות טקסטואלית בשני ערוצים: (א) תכנתים אוהבים להשתמש בתוכנות gAI כאמצעי עזר בתִכנות ולהם יש ניסיון רב באיתור שגיאות (כך לטענתו); (ב) מנהלים אוהבים להשתמש בתוכנות אלה כאילו היו מערכת ההפעלה של המחשבים החדישים, אבל הם כמהים לכלים כמו הגיליונות האלקטרוניים ומעבדי התמלילים שעדיין לא פותחו עבור הסביבות החדשות; הם מסרבים לקבל את הפרוזה הבינונית ואת הנתונים שמופקים מסביבות אלה.

(4) עמיתים של מרקוס, בעלי מקצועות שונים, שניסו להסתמך על תוכנת GPT כמקור לנתונים, ספגו ביקורת חריפה מהממונים עליהם.

(5) אחת הבעיות בשימוש בתוכנות אלה כמקורות אמינים לנתונים היא "הטיפשות המלאכותית" ואי-היכולת שלהן לזהות את ערכם המפוקפק של הנתונים. אם הבעיה הזאת לא תיפטר בהקדם, בועת ההערצה לבינה המלאכותית תפקע.

(6) ערך המניות של החברות התומכות בתוכנות אלה מגלה סימני ירידה.

(7) הניסיונות לרגולציה מסכמים את מידת ההצלחה בהגנה על פרטיות המשתמשים, בהפחתת הכאוס בדרישה לשקיפות הנתונים והמערכות, במלחמה במיס-אינפורמציה, ועוד…

8)) השגיאה השכיחה היא באמונה שתוכנות ה-gAI הן כבר נבונות, אם לא עברו כבר את בני האדם בתבונתן.

(9) אין שום סיבה מוחשית להאמין שהמכשולים בפני פתרון הבעיות הקשות שעומדות לפתחנו (ביטול הנטייה להפקת הזיות; היעדר היכולת לבוא בקשרים עם כלים חיצוניים; היעדר יציבות) ייעלמו ככה סתם מאליהם. הגדלת נפח המערכת עזרה במידה מוגבלת. איננו יודעים להבטיח בשימושים בתוכנות AI שהתוצאות תהיינה אמיתיות, שהמערכת תהיה לא מזיקה, לא מתחנפת וללא הטיות. חוקרי הבינה המלאכותית עבדו על בעיות אלה כבר שנים ולא פתרו אותן. אני, כך טען מרקוס, מתמודד עם בעיית ההזיות של תוכנות הבינה המלאכותית כבר 22 שנים.

(10) חוקרים מבטיחים שהפתרון לבעיית ההזיות כבר באופק, אך הוא לא מגיע.

(11) התוכנה המלהיבה אתכם בנויה על ניבוי השלמת משפטים ולא על קשר עם המציאות.

(12) זמן רב הייתי בודד בעמדה הזאת, טען מרקוס. והנה, כמה מהמובילים בתחום התחילו לתפוס שייתכן שנתקלנו בבעיה עקרונית שאיננה ניתנת לתיקון.

ומכאן הסיק מרקוס את המסקנה שציטטתי בתחילת המאמר. ספינת הבינה המלאכותית עלתה על שרטון ואיננו יודעים כיצד לחלצה. מדובר בקושי עקרוני שקרוב לוודאי לא ניתן לפתרון. גרוע מזה, במאמר עדכני יותר (מיום 16 באוגוסט) מתריע מרקוס על שיטפון הביוב ברשת, שיפגע בקרוב אפילו גם בערך השימושי של איתור נתונים ברשת, פגיעה שלא נדע לתקן. לדוגמה, האתר של אמזון מוצף בספרי הדרכה מזויפים לטיולים מדומים שנכתבו על ידי תוכנות בינה מלאכותית.