הביצה והתרנגולת הטכנולוגית

על הסכנה שבהסתמכות עיוורת על ההתקדמות הטכנולוגית
צילום של שפי גבעון
פרופסור יהושפט גבעון

כל כך הרבה פעמים כתבתי על סכנות בשימושים ללא הבנה במכשירים החדשים, עד שברור לי שלקוראים רבים נמאס לקרוא זאת. ובכל זאת אני מרגיש שמחובתי לציין מאמר שנכתב ע"י אל"מ במיל' עמרי שדה, ראש מטה חטיבת השריון, ופורסם במגזין "מערכות" לפני כחודש ימים (מיום כתיבת הטיוטה למאמר הזה). המיוחד במאמר הוא בכך שמעבר לביקורת המבוטאת בו נגד הנטייה הגוברת בצה"ל "להתבסס על פתרונות טכנולוגיים לאתגרים מבצעיים", הוא מצביע על תופעה הנראית כמו זליגת המים במורד של פתח ניקוז. וכך הוא צוטט ברשת: "ההכשרה והאימון של אנשי הסיוע לקויים, בשל כך ביצועיהם נמוכים, לכן המפקדים מפעילים ומאמנים אותם פחות – וחוזר חלילה". הוא קרא לתופעה זו "דוגמה קלאסית למשל הביצה והתרנגולת", וכאן אני החרפתי את הדימוי ל"זליגת המים במורד של פתח ניקוז". זוכרים מה כתב מקלוהן על האדם בונה הכלים ב-1962 וב-1964? האדם בונה כלים להרחבת יכולתו והוא משתמש בהם ללא מחשבה או בדיקה.

מעגל הקסמים הרסני זה מתגלה בחריפות בתקשורת הבין-אישית ב"רשתות החברתיות", בשיחות הקולניות ב"דיונים" המשודרים בתכניות הטלוויזיה, באלימות הגוברת בבתי הספר וכמובן גם בשדה הפוליטיקה. אבל כאשר מעגל קסמים זה מאיים לפגוע ביכולותיו המבצעיות של צה"ל, אני נזעק שוב להרים את קולי ולא נרתע מביקורת הקוראים.

בימים האחרונים עלתה תוכנה מעניינת לכותרות. זו תוכנת מודל לשפה האנושית המוצגת לכול כתוכנת בינה מלאכותית מוצלחת מאוד. זאת באמת תוכנה מרשימה בתוצאותיה, והיא כבר מדאיגה את אנשי החינוך, ששואלים בחרדה מה יהיה תפקיד המורים כאשר כל תלמיד בתיכון ואולי אף קודם לכן יוכל להשתמש בה כדי להכין את שיעוריו. והנה גם יש כאלה הממליצים להשתמש בה בניהול אוטומטי של קרבות.

בהקשר הבעיה הזאת צפוי שאחזור על דרישתו של מקלוהן להבין את המדיה כדי להישמר מהשפעתה המהפנטת. לעומת זאת, אני מקווה שעדיין מספיק לדרוש מאנשי החינוך שיבינו גם את הבינה הטבעית, כדי לחשוף במדויק את הנזק הפוטנציאלי שבשימוש עיוור בתוכנות בינה מלאכותית כלשהן.

כשסקרתי כמה "דיאלוגים" בין בני-אדם לבין ChatGPT נתקלתי בנושא שאהוב עליי, כיצד התייחס דאגלס אדמס לכמה סוגיות אנושיות במפגש עם טכנולוגיות המידע בספרו "מדריך הטרמפיסט בגלקסיה". למשל, מה זה מידע? ומה קורה לידע כאשר עובר זמן ממושך, כמו מיליוני שנים? הכוונה לסוגיית ה-"42" (שנידונה גם בפלטפורמה אחרת, בסדרה "המפץ הגדול" בפרק "המוזרות של המספר 43").

אציג אפוא לדוגמה, כיצד הגיבה התוכנה על ההצעה לקבל את "42" כתשובה לשאלה הנשכחת "מהי משמעות החיים?". זאת הייתה תגובתה:

In other words, the answer "42" is a humorous and satirical take on the idea that there may be a single, definitive answer to the question of the meaning of life. It suggests that the search for such an answer may be futile, and that the meaning of life may be something that is ultimately unknowable

לדעתי התוכנה סטתה מהנושא והתעלמה מכמה דברים. הבדיחה של אדמס איננה קשורה במספר 42 עצמו או בריבוי תשובות לכל שאלה, אלא בנוהל המקובל כיום בתחום טכנולוגיית המידע להגדיר "מידע" כ"תשובה לשאלה שנשאלה". הגדרה זו מוזכרת בספרים רבים בתחום והיא נלמדת על ידי כל תלמיד של מערכות מידע. אין כאן שום קשר למספר התשובות האפשרי לשאלות בכלל. כפי שציינתי בעבר, יש בתגובת התוכנה גם עדות להתעלמות מתכונות הזיכרון האישי והציבורי. כאשר עובר זמן רב (למשל 7.5 מיליון שנים – בספרו של אדמס זה הזמן הנדרש למחשב "מחשבה עמוקה" להגיע לחישוב הפלט "42") מובן כי הפלט נגרם על ידי קלט שהיה שאילתא אחת ויחידה ושנשכח על ידי בני אדם. כאן צפות ובאות לידי ביטוי תכונות אנושיות שקל להתעלם מהן כאשר תוכנה פועלת על סמך עיבוד סטטיסטי של נתונים אפילו ממאגר עצום של נתונים. תוכנה איננה מסוגלת להבין את תכונות הזיכרון האנושיות, גם אם נזין אותה בקלישאות השטחיות שלנו ביחס לזיכרון. ומצד שני, כאשר החינוך יסתמך על טכנולוגיה כזו, שנוצרה מבלי להתבסס על הבנת תכונות האדם, התלמידים יהיו נבונים לא יותר ממכונות אשר לומדות, כמו היונים בניסוייו של סקינר, מבלי להיות מודעות למקורות ה"ידיעה" שלהן. ללא פיתוח של מדעי השכל, רמת שימושי התוכנה בחינוך תישאר כלואה בכלוב.

הסתמכות עיוורת ומוחלטת על התקדמות טכנולוגית בלתי מבוקרת מסוכנת לאדם, לחינוך, למדינה ולאנושות. המאמר של עמרי שדה הוא ניצן מבטיח של תבונה אנושית המשוחררת מההיפנוזה של החדשנות. למיטב הבנתי, צריך לתמוך במגמה זו שהוא מבטא ולעודד אותו לפתח את תובנותיו כדי לשחרר את צה"ל ואותנו ממעגלי הקסם המהפנטים והמזיקים של הכלים החדשים. ההתלהבות הלא מושכלת מהתוכנות החדישות מעידה שעומדים בפנינו קשיים בשחרור האדם. לדעתי, ואני מסכים לחלוטין עם מקלוהן, אם לא נשלוט בכלים באמצעות הבנתנו, הכלים אכן ישלטו בנו ויהפנטו אותנו.

Facebook
Twitter
LinkedIn
WhatsApp
Email

8 תגובות

  1. אני מסכים להערתך לגבי ההשלכות הצבאיות. ההסתמכות הגוברת שלנו על טכנולוגית מידע צבאית, על חשבון הפיתוח הצבאי של לוחמים וכלי נשק להפעלה בידיהם, עלולה להתברר כטעות קשה מאוד.

  2. מעניין שדווקא הפרופסור שמבין בטכנולוגית המידע מציב כל הזמן סימני שאלה מול הטכנולוגיה הזאת. ואני לא אומר את זה כביקורת

    1. לשמעון, תודה על הערתך.
      אני חונכתי במסורת אקדמית שבה לא מדברים על כלים מבלי לחקור את מגבלותיהם. כך עשה טיורינג ומזה מתעלמים היום כמעט כליל.

  3. פחות או יותר הבנתי את הטענות, רק לא הבנתי כיצד מדעי השכל יביאו את הגאולה.

    1. הבנה היא תהליך שכלי שמדעי השכל מן הראוי שיאפשרו לנו להבין אותו, כי הבנה איננה מובנת היטב. ראה מאמרי על הבנה: https://jokopost.com/thoughts/39632/ . ואם אינך מבין מהו מדע השכל כתבתי על כך כמה מאמרים:
      למשל, https://www.jokopost.com/thoughts/21779/ ושום מדע לא מביא גאולה. לכל היותר מדע מוצלח מביא תשובה לשאלה מוצלחת…

  4. כל מאמר שלך הוא אתגר אינטלקטואלי
    דבר לא שגרתי באתרים
    אני מקפיד לקרוא

  5. ראש הממשלה מקיש על המקלדת וכל הבוטים מדקלמים החלטות גם אם אין בהן שמץ של הגיון

  6. לאינטליגנציה המלאכותית ניצה,
    תודה על הערתך. האם אוכל להביא אותך לידי ההבנה שאת הגבת על מאמרי כמכונה חסרת תבונה, כבינה מלאכותית? מה הקשר בין מאמרי לראש הממשלה?

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של אבי

המתרץ

טיפולוגיה של שחקני ברידג' (5)

דילוג לתוכן