מה אם יתברר שתוכנות הבינה המלאכותית הן נפלים?

מה גורלה של האמונה הלוהטת בבינה מלאכותית?
תמונה של שפי
פרופסור יהושפט גבעון

ב-13 באוגוסט 2023 פורסם באתר של גארי מרקוס מאמר חריף שכותרתו: "מה אם יתברר שהתוכנות היוצרות של הבינה המלאכותית, הן נפלים?" בתמונת השער של המאמר מופיע צילום של צפלין ענק של חיל הים האמריקאי שמרחף על פני מי מפרץ ובצילו שטה אוניית מסחר שמניפה את דגל ארה"ב. בתחתית התמונה המרשימה הזו נכתב: "טכנולוגיות המתרחבות במהירות, באופן אחיד, אינן מקיימות את הבטחתן".

במאמר הזה אני מבקש להציג את פרטי הטיעונים של מרקוס שמסתיימים בטיעון הפשוט הבא: "אם הזיות (של תוכנת הבינה המלאכותית היוצרת, gAI) אינן ניתנות לתיקון, gAI, כנראה לא תכניס ביליון דולרים בשנה. ואם היא כנראה לא תפיק ביליון דולרים בשנה, היא כנראה לא תפיק את התוצאה שאנשים מצפים ממנה. ואם היא לא תפיק את התוצאה הזו, ייתכן שעלינו להימנע מלבנות את עולמנו סביב ההנחה שהיא אכן תפיק אותה." (התרגום שלי).

כיצד הגיע מרקוס למסקנה הזו?

(1) הבינה המלאכותית היוצרת (בראשי תיבות gAI) היא הנושא הלוהט ביותר בעולם.

(2) ההכנסות המצופות ממנה (בטווח הביליונים) עדיין לא מומשו.

(3) ההכנסות כיום הן בעיקר מפעילות טקסטואלית בשני ערוצים: (א) תכנתים אוהבים להשתמש בתוכנות gAI כאמצעי עזר בתִכנות ולהם יש ניסיון רב באיתור שגיאות (כך לטענתו); (ב) מנהלים אוהבים להשתמש בתוכנות אלה כאילו היו מערכת ההפעלה של המחשבים החדישים, אבל הם כמהים לכלים כמו הגיליונות האלקטרוניים ומעבדי התמלילים שעדיין לא פותחו עבור הסביבות החדשות; הם מסרבים לקבל את הפרוזה הבינונית ואת הנתונים שמופקים מסביבות אלה.

(4) עמיתים של מרקוס, בעלי מקצועות שונים, שניסו להסתמך על תוכנת GPT כמקור לנתונים, ספגו ביקורת חריפה מהממונים עליהם.

(5) אחת הבעיות בשימוש בתוכנות אלה כמקורות אמינים לנתונים היא "הטיפשות המלאכותית" ואי-היכולת שלהן לזהות את ערכם המפוקפק של הנתונים. אם הבעיה הזאת לא תיפטר בהקדם, בועת ההערצה לבינה המלאכותית תפקע.

(6) ערך המניות של החברות התומכות בתוכנות אלה מגלה סימני ירידה.

(7) הניסיונות לרגולציה מסכמים את מידת ההצלחה בהגנה על פרטיות המשתמשים, בהפחתת הכאוס בדרישה לשקיפות הנתונים והמערכות, במלחמה במיס-אינפורמציה, ועוד…

8)) השגיאה השכיחה היא באמונה שתוכנות ה-gAI הן כבר נבונות, אם לא עברו כבר את בני האדם בתבונתן.

(9) אין שום סיבה מוחשית להאמין שהמכשולים בפני פתרון הבעיות הקשות שעומדות לפתחנו (ביטול הנטייה להפקת הזיות; היעדר היכולת לבוא בקשרים עם כלים חיצוניים; היעדר יציבות) ייעלמו ככה סתם מאליהם. הגדלת נפח המערכת עזרה במידה מוגבלת. איננו יודעים להבטיח בשימושים בתוכנות AI שהתוצאות תהיינה אמיתיות, שהמערכת תהיה לא מזיקה, לא מתחנפת וללא הטיות. חוקרי הבינה המלאכותית עבדו על בעיות אלה כבר שנים ולא פתרו אותן. אני, כך טען מרקוס, מתמודד עם בעיית ההזיות של תוכנות הבינה המלאכותית כבר 22 שנים.

(10) חוקרים מבטיחים שהפתרון לבעיית ההזיות כבר באופק, אך הוא לא מגיע.

(11) התוכנה המלהיבה אתכם בנויה על ניבוי השלמת משפטים ולא על קשר עם המציאות.

(12) זמן רב הייתי בודד בעמדה הזאת, טען מרקוס. והנה, כמה מהמובילים בתחום התחילו לתפוס שייתכן שנתקלנו בבעיה עקרונית שאיננה ניתנת לתיקון.

ומכאן הסיק מרקוס את המסקנה שציטטתי בתחילת המאמר. ספינת הבינה המלאכותית עלתה על שרטון ואיננו יודעים כיצד לחלצה. מדובר בקושי עקרוני שקרוב לוודאי לא ניתן לפתרון. גרוע מזה, במאמר עדכני יותר (מיום 16 באוגוסט) מתריע מרקוס על שיטפון הביוב ברשת, שיפגע בקרוב אפילו גם בערך השימושי של איתור נתונים ברשת, פגיעה שלא נדע לתקן. לדוגמה, האתר של אמזון מוצף בספרי הדרכה מזויפים לטיולים מדומים שנכתבו על ידי תוכנות בינה מלאכותית.

Facebook
Twitter
LinkedIn
WhatsApp
Email

7 תגובות

  1. הבעיה היא שמי שקובע את חיינו אינם מנהיגים אלא בעלים של חברות עולמיות גדולות שלהם יש רק אינטרס אחד = כסף

  2. לחנן, תודה על תגובתך.
    הטענה שלך איננה עוזרת להבין מה יהיה גורלה של תוכנת הבינה המלאכותית כאשר לא מצליחים לפתור כמה קשיים שאנו נתקלים בהם שוב ושוב למרות ההתלהבות מהבינה המלאכותית.

  3. קצת ציניות בימים טרופים אלה
    זקוקים גם לחיוך
    ואני אומר:
    אולי הבינה המלאכותית עוד לא הוכיחה עצמה
    אבל הבינה האנושית נכשלה באופן ברור

  4. לא הבנתי מה מסמל הצפלין הנזכר בראשית המאמר, שמרחף מעל ספינת המסחר

    1. לניר,
      תודה על שאלתך על הצפלין הענק שנזכר בראשית המאמר. הצפלין הוא כלי והגדלתו לא פתרה את הקשיים שהתגלו בשימושים הלא מבוקרים בו. כך אנו נוהגים כיום (לדעתו של מרכוס, ושאני תומך בה) עם הכלי התורן במחסנית ההתלהבות העיוורת מהכלים, תוכנת בינה מלאכותית שנכשלת בביצוע תרגילי חשבון פשוטים.

      אני מציע שתחטט באתר של גארי מרכוס ותמצא את הכתבה שפורסמה לאחרונה שבה נדונו הדוגמאות המעליבות של כשלונות התוכנה התורנית).

    1. לאלמוני,
      תודה על שאלתך. בינה מלאכותית איננה משפיעה על חושינו. החשיבה שלנו וההתלהבות העיוורת ממכונות היא כהות של חושים מלכתחילה. ואם נאמין למקלוהן, כהות החושים שלנו נגרמת מאי-הבנת האמצעים שיצרנו.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של מנשה

זו שעתנו הגדולה

על חשיבות החוסן הלאומי והחברתי של הפרט והחברה כולה

תמונה על גדעון

האם יחזרו?

האם אכן עושים את המירב לשחרור החטופים?

דילוג לתוכן