איום הבינה המלאכותית על עתידנו

והבעיה שבמקורות הידיעה על אודותיה
תמונתו של ישפי
פרופסור יהושפט גבעון

אחד הנושאים האהובים בימינו על הכתבים המדעיים של ערוצי התקשורת השונים, לפחות בארץ, הוא נושא הבינה המלאכותית. לאחרונה כמעט בכל שבוע אתרי החדשות מציגים עמדה בעניין והכותב מנסה להסביר לנו מה זאת בינה מלאכותית ומה צפוי לנו בקרוב בהשפעתה. בהקשר זה, לפני כמה ימים ביקש ממני תלמיד סקרן לתואר שני ב"טכנולוגיה בחינוך" להסביר לו את עמדותיי מול מה שכתוב בוויקיפדיה בערך "בינה מלאכותית". כשניסיתי לעשות זאת חשכו עיניי.

בערך הזה אפשר למצוא שגיאה כמעט בכל שורה. אחרי שערכתי מעט את הפסקה הראשונה, חדלתי מהרעיון לשדרג את כל הערך על ידי עריכתו. גם ויתרתי על הטרחה שבבדיקה מקצועית של התוצר של ויקיפדיה, שכותבים מתנדבים אך חסרי השכלה תורמים לנו על סמך ידיעותיהם. ידעתי שבמקרה הזה הבדיקה תגזול ממני שעות של עבודה. כפתרון פשרה החלטתי לסכם מספר הסתייגויות ולשתף אתכם כאן.

הסתייגות 1: הבינה המלאכותית נוצרת על ידי מאמץ אנושי לבניית תוכנה מסוג מיוחד ולא על ידי מחשבים או מכונות. איכותה משקפת את מידת יכולתנו להמציא קוד שייחשב נבון. אם רובוט כלשהו אינו מסוגל לבצע משימה תבונית מסוימת, הרי זה משום שאנו לא הצלחנו לתכנת אותו כראוי למשימה שכזו. בנוסח המקורי של הערך כמעט לא מוזכרת התוכנה כנושאת היכולת התבונית שלנו, ולא מוזכרת יכולתנו בגילוי ובעיצוב אלגוריתמים לתוכנות כאלה, אלא בעיקר מוזכרים המחשבים והמכונות.

הסתייגות 2: המונח "אלגוריתם" מופיע בערך הנדון רק בהקשר המשחקים הממוחשבים ומשמעותו מוצגת שם באופן חלקי, אף על פי שכל התקדמות בנושא המוגדר מתוכנות היא התקדמות הנובעת מגילוי אלגוריתמים. מי שלא מבין מה זה גילוי אלגוריתמים – כמו לדוגמה מי שכתב את הערך הזה – אינו יכול לתאר את נושא הבינה המלאכותית בצורה ברורה ומדויקת.

ההמלצה שלי, לכל מי שמעוניין ברצינות בהבנת נושא כלשהו המוגדר על ידי שימוש יעיל בתוכנות, היא ללמוד ולהבין את מהות האלגוריתמים, תכונותיהם האופייניות ומגבלותיהם העקרוניות. זה חל על הבנת הבינה המלאכותית כמו על הבנת שימוש באלגוריתמים כתרומה למִנהל, לתעשייה או לחינוך. מלבד מגבלות הבינה המלאכותית הנובעות ממגבלותינו בהבנת תבונתנו, קיימות מגבלות עקרוניות לשימושים באלגוריתמים הקובעות גם את מגבלות הבינה המלאכותית.

חוקרים רציניים בנושא האלגוריתמים תמיד ינסו לגלות את מגבלות הכלים שהם מגדירים או מפתחים. כך נהגו אלה שהניחו את יסודותיו של הנושא בשנות ה-30 של המאה הקודמת, ורק מעטים מחוקרי הבינה המלאכותית נהגו כך. הבולט שביניהם הוא דאגלס הופשטטר, שהתחיל את דרכו כמאמין נלהב באפשרויות לפיתוח בינה מלאכותית ובשנים האחרונות הוא מקדיש את עיקר מחקריו לתכונות הייחוּדיוֹת ולמוּרכבוּת של השכל האנושי. בארץ הופשטטר מוּכר בשל ספרו "גדל, אשר, באך: גביש בן-אלמוות: פוגה מטפורית על נפשות ומכונות ברוח לואיס קרול". הספר נכתב ב-1979, בימים שהמחבר דבק באמונה שהבינה המלאכותית אפשרית, ותורגם לעברית, בדיוק אין-סופי, מ-1996 ועד 2011.

כאשר התעוררו ספקותיו, הופשטטר לא נגרר לוויכוחים של הצהרות והצהרות-נגד בדבר סבירות הבינה המלאכותית. במקום זה, הוא פעל כמתמטיקאי וחיפש דוגמאות נגדיות המבטאות את יכולת החשיבה האנושית, ופרסם אותן בכמה ספרים, כאתגרים לחוקרי הבינה המלאכותית. הנה כמה מנושאי המחקר האהובים עליו: יכולת האדם לזהות תבניות המגדירות צורות של אותיות האלפבית (מושג הגופן); עושר "המוזיקה הלשונית", המתבטא בגווני היכולת האנושית לתרגם טקסטים קטנים, כמו בגרסאות תרגום של שיר אחד מהמאה ה-16, "על עלמה חולה", הכתוב בצרפתית ומכיל 59 מילים, לפי הגדרת תנאי תרגום מוקדמים.

הסתייגות 3: ההיסטוריה של המחקר בבינה מלאכותית מתוארת בערך הנדון באופן שטחי וללא הבנת הנושא. מובן שקשה לסקור היסטוריה של ניסיונות מחקריים המתפרסת על יותר מ-60 שנה. בייחוד כשמדובר במציאות המִשתנה, של הצלחות וכישלונות, המקבילה לשינויים בתפיסות של החוקרים, שלא תמיד נבעו מהפקת לקחים מהעובדות אלא גם מהניסיונות לעקוף את הקשיים בהשגת תקציבים מכל מיני מממנים מאוכזבים.

לדוגמה, "מיזם הדור החמישי" בארצות הברית היה ניסיון הנשמה מלאכותית להחייאת האמונה ברעיון הבינה המלאכותית, ולא סתם חלק מניסיון להשגת מימון לחקר הבינה המלאכותית. הבינה המלאכותית, בגלגולה הקודם, ניסתה להתקיים כפתרון מעשי למאמצי המלחמה הקרה והתמקדה בין היתר במיזמים של פיתוח תוכנות לתרגום אוטומטי. אחרי שמורי, פרופ' יהושע בר הלל ז"ל, הוכיח שתנאי קודם לפיתוח תוכנות כאלה הוא פיתוח תוכנות המגלמות את הבנת החיים של מי שחי אותם, איש לא העז להגיש בקשות למימון מיזמים שמוזכר בהן תרגום אוטומטי. הן פשוט נדחו על הסף. במיזם הדור החמישי, כפי שהסברתי, היה חידוש משמעותי שלא נמצאה לו התייחסות מושכלת בוויקיפדיה. בכל אופן גם הוא נשכח כליל, והיום תמצאו שהביטוי "דור חמישי" מתאר התקדמות סלולרית (5G) ולא התקדמות בבינה מלאכותית.

הסתייגות 4: הלוגיקה מוצגת בערך "בינה מלאכותית" בצורה מעוותת לגמרי. אין בו זכר לעובדה שהלוגיקה האריסטוטלית איבדה את התעניינות הלוגיקנים בסוף המאה ה-19 ובראשית המאה ה-20. הלוגיקה החדשה פותחה במרץ רב כלוגיקה מתמטית, החל מהאלגברה הבוליאנית של ג'ורג' בוּל, מ-1853, וכלה בתחשיבי לוגיקה שונים ומפותחים לאין ערוך מהלוגיקה של אריסטו. תחשיבים אלה עמדו לנגד עיניהם של מגדירי מושג החישוב הדיגיטלי בשנות ה-30 של המאה ה-20.

הטענה על שאלות היסוד של הבינה המלאכותית כי "אריסטו ניסה למסד את השאלות האלה באמצעות הלוגיקה הסילוגיסטית, שנותרת אחת מאסטרטגיות המפתח של הבינה המלאכותית, היא חסרת שחר, משתי בחינות. אריסטו ביקש למסד את הלוגיקה של התפיסה המדעית המצומצמת שלו, המבוססת על מיון בעלי החיים למחלקות ולתת-מחלקות, באמצעות כללי היסק (הנקראים סילוגיזמים) שמרכיבים את "הלוגיקה האריסטוטלית". ללוגיקה טריוויאלית זו לא היה שום תפקיד מפתח בחקר הבינה המלאכותית בשום שלב.

לעומתה, לדוגמה, התחשיב הלוגי שפיתח אלונזו צ'רץ, הידוע בשם "תחשיב-λ", נלמד כמעט בכל תכנית אקדמית למדעי המחשב בעולם. בעזרת לוגיקה זו בוטא אחד הנוסחים של הגדרת מושג החישוב ב-1936, והיא קשורה בעקיפין לשפת התכנות ליספ, שהייתה אהובה על חוקרי הבינה המלאכותית במשך עשרות שנים. לוגיקה זו קשורה גם לתפיסה האמפירית של מדעי המחשב שביטאו אלאן ניואל והרברט סיימון בניסיון המפורש שלהם לנסח עקרונות יסוד לבינה המלאכותית כמדע אמפירי. בהרצאתם ב-1975, לרגל קבלת פרס טיורינג על תרומתם למחקר בבינה מלאכותית, הם תיארו את המבנה הלוגי של שפת ליספ כבסיס לבינה מלאכותית.

בערך "בינה מלאכותית" בוויקיפדיה אפשר למצוא פגמים אופייניים נוספים. אבל הבעיה איננה נובעת רק מרמת השכלתם הירודה של הכותבים ברשת. נניח שקוראת סקרנית מעוניינת לאתר מאמרים מקוריים על הגדרת מושג החישוב (הדיגיטלי). היא תיתקל בבעיה שגרמו החוקרים עצמם. הם לא פיתחו שפה סדורה המאפשרת תקשורת ברורה, כפי שנעשה בתחומי דעת אחרים. והמצב הזה, שהתחיל עוד בשנות ה-30, שורר עד היום. אנו יודעים שטיורינג, צ'רץ', פוסט וקלייני כתבו על אותו נושא. אבל איך תוכל הקוראת הסקרנית לאתר את מאמריהם בנושא, מבלי להכיר אותם תחילה? עובדות אלו יכולות להסביר את הדמנציה הדיגיטלית הכרונית שנדונה במאמריי הקודמים.

שיתוף ב facebook
Facebook
שיתוף ב twitter
Twitter
שיתוף ב linkedin
LinkedIn
שיתוף ב whatsapp
WhatsApp
שיתוף ב email
Email

16 תגובות

  1. ואני כן חושבת שמנהל צריך להשתמש בבינה מלאכותית ולתת הוראות לאנשיפ מתחתיו להשתמש בבינה מלאכותית ואפילו להכתיב בדיוק מה הוא רוצה לקבל מהבינה המלאכותית

    1. איך המנהל ידע "בדיוק מה הוא רוצה לקבל מהבינה המלאכותית" אם הוא לא ידע את מגבלות האלגוריתמים? אם הוא לא ידע ש"הבינה המלאכותית" היא אוסף של אלגוריתמים (נסיוניים) שגלומים בתוכנות המוגשות לו כ"הבינה המלאכותית"? אם לא יבין מדוע יצרניות התוכנות השימושיות לא מצליחות להיפטר מהשגיאות שיש בהן?

  2. תראה מה כתב רופסור צינר היום. אני נהנה וככה גם כל מי שאני מכיר. אז לא כולם חושבים כמוכם. תהיו חיוביים. תחשבו על כל הדברים הטובים שיש מהטכנולוגיה. ולא כולם חייבים להיות מהנדסי מחשבים.

  3. מחשב זה מכשיר. הוא פועל על בסיס תוכנה. המחשב עושה בדיוק מה שמורה לו התוכנה, לטוב ולרע. וככל שהתוכנה יותר מורכבת סביר שיש בה יותר באגים. הרי היתרון של המחשב שהוא יכול לבצע מיליוני שגיאות בתוך שנייה אחת.

    1. חחחח
      אתה הזכרת לי שלפני שנים רבות מישהו כתב מאמר שאין סיכוי רב לפיתוח אמתי של בינה מלאכותית מכיון שבאגים יגרמו לה לקרוס. הרי תוכנה אמתית בעלת בינה תהיה מורכבת יותר מכל התוכנות שאנו מכירים. אפילו בתוכנות "אופיס" נשארו באגים מטרידים שלא מצליחים להיפטר מהם.
      עכשיו, כשאני מנסה לאתר את המאמר ההוא, גוגל שוטף את החלון הפעיל בעשרות פריטים עם הצהרות נלהבות על שימושים כמעט מוצלחים, או ממש מוצלחים, בבינה מלאכותית לאיתור באגים.
      לא צריך להיות מהנדס מחשבים כדי לדעת שמשהו אינו תקין בהצהרות הללו. צריך לדעת מעט מדעי המחשב.

  4. אני בטוח שרוב הקוראים לא יודעים מה זה אלגוריתם. אולי אתה יכול להסביר לנו בשפה פשוטה מה הוא אלגוריתם וכיצד הוא פועל באופן מכני?
    הסבר כזה יתרום להבנת הנושא יותר מאשר ויכוחים מלומדים באתר שרק בודדים באמת מבינים אותם.

    1. לצמא לדעת!
      עלית על המוקש המתקתק של הנושא. אנו לא יודעים כיצד להסביר נכון ובשפה פשוטה מה זה אלגוריתם. מעטים אפילו, במדעי המחשב, מעיזים לחשוף את העובדה המצערת הזאת.

      לדעתי על חוקרי התחום להתמקד בהבהרת מושגי היסוד שלהם כדי לאפשר לציבור הרחב לדעת במה הם עוסקים ומה אנו מכניסים לכיתות…

      זה איננו המקרה הראשון בתולדות המחשבה האנושית שבו מושג (רעיון) חשוב היה נחוץ לפתרון בעיות ומושג זה הוגדר רק מאתיים שנה אחרי ששימושיותו התגלתה.. אני מתכוון למושג הגבול (וממנו, מושג הרציפות, הנגזרת, ועוד). מאתיים שנה לקח לאנושות כדי לפתח שפה ברורה והגדרות למושגים החשובים האלה.

  5. אבל זה לא קצת מוגזם לטעון שהבינה המלאכותית מאיימת על קיומנו?

    1. רבים מאמינים שהנה הרובוטים יעלו עלינו בתבונה שלהם. לא ציינתי זאת במאמר.

      המאמר עוסק בשגיאות ובאמונות הנפוצות ביחס לבינה המלאכותית שהציפו את הויקיפדיה וכל מיני מקורות אחרים. לא הזכרתי את הפחד מהבינה המלאכותית. להיפך, הבאתי הערות שמעידות עד כמה תחזיות העתיד של הבינה המלאכותית (הטובות ובמאיימות) הן חסרות בסיס.

  6. מקסימום יש לה בעיות ומינוסים שאפשר להתמודד אתם ולפתור אותם או להרטין הבעיות. לכול טכנולוגיה יש חסרונות ומינוסים אבל אין כוונה וגם לא הגיוני לחזור אחורה.

  7. ההיסטוריה של המכשירים (או בשפתך, של הטכנולוגיות) מעידה שלפעמים המשתמשים לוחצים על היצרנים לתקן מן השורש את התוצר שלהם בגלל לקויות חמורות ("חסרונות"). זה לא תמיד מתאפשר משום שהיצרנים מוגנים בחומה בצורה של האמונה שהם יוצרים את הקדמה וש"לא הגיוני לחזור אחורה". זה לא מתאפשר משום שהמשתמשים מתייחסים אל היצרנים כמו שליחי ההיסטוריה. פעם כך התייחסו הפועלים אל בעלי בתי החרושת.

  8. פרופסור נכבד

    אני סטודנטית לחינוך. מבקשת להרחיב את הדעת ולכתוב סמינריון בנוגע לשאלות מוסריות שעולות בהקשר להתפתחות תחום הבינה המלאכותי. אני מתקשה למצוא מקורות שחוקרים את הנושא ומציגים אותו באורח נהיר שבאמת מאפשר להבין במה בכלל מדובר ומוביל את האדם לשאלה המוסרית בהקשר העתיד הצפוי בתחום. אני כותבת לך מפני שנראה לי מאופן כתיבתך שאתה לא מדבר על דברים על פני השטח ואני אשמח להכוונתך למקורות מהימנים. הנושא מעניין וחשוב בעייני מאוד.

    1. מי העז לחקור את ההשלכות המוסריות של הבינה המלאכותית?
      אי אפשר לדון בבינה המלאכותית כישות נבדלת מעולם הטכנלוגיות החדשניות ולכן מעניין לקרוא את דברי קולין צ'רי, חוקר התקשורת האנושית, במאמריו שפורסמו אחרי מותו, בדיון בבעיות מוסריות הכרוכות בהתפתחות הטכנולוגית:
      Cherry, Colin, (1978). A Second Industrial Revolution? in: THE AGE OF ACCESS: Information Technology and Social Revolution. Posthumous Papers of Colin Cherry, Compiled and edited by William Edmondson, London: Croom Helm, 1985. pp. 37-42.
      אולי גם תתענייני לקרוא בספרו של דאגלס ראשקופף "תכנתו ולא תתוכנתו" (תרגמתי אותו לעברית):
      Rushkoff, Douglas. Program Or Be Programmed: Ten Commands for a Digital Age. Berkeley: Soft Skull Press. 2010.
      בפרק IX "פתיחות: שתף, אל תגנוב" על בעיית גניבת קניין רוחני המואצת במדים הדיגיטלי. ראשקופף דן בסוגיות אתיות נוספות במקומות נוספים בספר (פרקים VI, VII, VIII, למשל). כל הספר צריך לעניין אותך.
      החוקר הראשון (וכנראה היחיד) שהתמקד בבעיות האתיות הכרוכות ביצירת בינה מלאכותית היה יוסף ווייצנבאום, מי שהיה פרופסור למדעי המחשב במ.י.ט. בשנות ה-60 וה-70. הוא פיתח את אחת התוכנות הראשונות לעיבוד שפה טבעית ELIZA, ואחר כך גילה עד כמה היא מסוכנת. אומרים שהוא טבע את ההצהרה "לא כל מה שאפשר, מותר". אפשר למצוא את דיוניו בספר, שהיה מאד מפורסם בזמנו:
      Weizenbaum, J., Computer Power and Human Reason: from Judgment to Calculation. New York: Freeman and Company. 1976.

כתיבת תגובה

האימייל לא יוצג באתר.

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של רות

צדק לימודי

כיצד ניתן לצמצם פערים ולדאוג לשוויון במערכת החינוך