איום הבינה המלאכותית על עתידנו

אחד הנושאים האהובים בימינו על הכתבים המדעיים של ערוצי התקשורת השונים, לפחות בארץ, הוא נושא הבינה המלאכותית. לאחרונה כמעט בכל שבוע אתרי החדשות מציגים עמדה בעניין והכותב מנסה להסביר לנו מה זאת בינה מלאכותית ומה צפוי לנו בקרוב בהשפעתה. בהקשר זה, לפני כמה ימים ביקש ממני תלמיד סקרן לתואר שני ב"טכנולוגיה בחינוך" להסביר לו את עמדותיי מול מה שכתוב בוויקיפדיה בערך "בינה מלאכותית". כשניסיתי לעשות זאת חשכו עיניי.

בערך הזה אפשר למצוא שגיאה כמעט בכל שורה. אחרי שערכתי מעט את הפסקה הראשונה, חדלתי מהרעיון לשדרג את כל הערך על ידי עריכתו. גם ויתרתי על הטרחה שבבדיקה מקצועית של התוצר של ויקיפדיה, שכותבים מתנדבים אך חסרי השכלה תורמים לנו על סמך ידיעותיהם. ידעתי שבמקרה הזה הבדיקה תגזול ממני שעות של עבודה. כפתרון פשרה החלטתי לסכם מספר הסתייגויות ולשתף אתכם כאן.

הסתייגות 1: הבינה המלאכותית נוצרת על ידי מאמץ אנושי לבניית תוכנה מסוג מיוחד ולא על ידי מחשבים או מכונות. איכותה משקפת את מידת יכולתנו להמציא קוד שייחשב נבון. אם רובוט כלשהו אינו מסוגל לבצע משימה תבונית מסוימת, הרי זה משום שאנו לא הצלחנו לתכנת אותו כראוי למשימה שכזו. בנוסח המקורי של הערך כמעט לא מוזכרת התוכנה כנושאת היכולת התבונית שלנו, ולא מוזכרת יכולתנו בגילוי ובעיצוב אלגוריתמים לתוכנות כאלה, אלא בעיקר מוזכרים המחשבים והמכונות.

הסתייגות 2: המונח "אלגוריתם" מופיע בערך הנדון רק בהקשר המשחקים הממוחשבים ומשמעותו מוצגת שם באופן חלקי, אף על פי שכל התקדמות בנושא המוגדר מתוכנות היא התקדמות הנובעת מגילוי אלגוריתמים. מי שלא מבין מה זה גילוי אלגוריתמים – כמו לדוגמה מי שכתב את הערך הזה – אינו יכול לתאר את נושא הבינה המלאכותית בצורה ברורה ומדויקת.

ההמלצה שלי, לכל מי שמעוניין ברצינות בהבנת נושא כלשהו המוגדר על ידי שימוש יעיל בתוכנות, היא ללמוד ולהבין את מהות האלגוריתמים, תכונותיהם האופייניות ומגבלותיהם העקרוניות. זה חל על הבנת הבינה המלאכותית כמו על הבנת שימוש באלגוריתמים כתרומה למִנהל, לתעשייה או לחינוך. מלבד מגבלות הבינה המלאכותית הנובעות ממגבלותינו בהבנת תבונתנו, קיימות מגבלות עקרוניות לשימושים באלגוריתמים הקובעות גם את מגבלות הבינה המלאכותית.

חוקרים רציניים בנושא האלגוריתמים תמיד ינסו לגלות את מגבלות הכלים שהם מגדירים או מפתחים. כך נהגו אלה שהניחו את יסודותיו של הנושא בשנות ה-30 של המאה הקודמת, ורק מעטים מחוקרי הבינה המלאכותית נהגו כך. הבולט שביניהם הוא דאגלס הופשטטר, שהתחיל את דרכו כמאמין נלהב באפשרויות לפיתוח בינה מלאכותית ובשנים האחרונות הוא מקדיש את עיקר מחקריו לתכונות הייחוּדיוֹת ולמוּרכבוּת של השכל האנושי. בארץ הופשטטר מוּכר בשל ספרו "גדל, אשר, באך: גביש בן-אלמוות: פוגה מטפורית על נפשות ומכונות ברוח לואיס קרול". הספר נכתב ב-1979, בימים שהמחבר דבק באמונה שהבינה המלאכותית אפשרית, ותורגם לעברית, בדיוק אין-סופי, מ-1996 ועד 2011.

כאשר התעוררו ספקותיו, הופשטטר לא נגרר לוויכוחים של הצהרות והצהרות-נגד בדבר סבירות הבינה המלאכותית. במקום זה, הוא פעל כמתמטיקאי וחיפש דוגמאות נגדיות המבטאות את יכולת החשיבה האנושית, ופרסם אותן בכמה ספרים, כאתגרים לחוקרי הבינה המלאכותית. הנה כמה מנושאי המחקר האהובים עליו: יכולת האדם לזהות תבניות המגדירות צורות של אותיות האלפבית (מושג הגופן); עושר "המוזיקה הלשונית", המתבטא בגווני היכולת האנושית לתרגם טקסטים קטנים, כמו בגרסאות תרגום של שיר אחד מהמאה ה-16, "על עלמה חולה", הכתוב בצרפתית ומכיל 59 מילים, לפי הגדרת תנאי תרגום מוקדמים.

הסתייגות 3: ההיסטוריה של המחקר בבינה מלאכותית מתוארת בערך הנדון באופן שטחי וללא הבנת הנושא. מובן שקשה לסקור היסטוריה של ניסיונות מחקריים המתפרסת על יותר מ-60 שנה. בייחוד כשמדובר במציאות המִשתנה, של הצלחות וכישלונות, המקבילה לשינויים בתפיסות של החוקרים, שלא תמיד נבעו מהפקת לקחים מהעובדות אלא גם מהניסיונות לעקוף את הקשיים בהשגת תקציבים מכל מיני מממנים מאוכזבים.

לדוגמה, "מיזם הדור החמישי" בארצות הברית היה ניסיון הנשמה מלאכותית להחייאת האמונה ברעיון הבינה המלאכותית, ולא סתם חלק מניסיון להשגת מימון לחקר הבינה המלאכותית. הבינה המלאכותית, בגלגולה הקודם, ניסתה להתקיים כפתרון מעשי למאמצי המלחמה הקרה והתמקדה בין היתר במיזמים של פיתוח תוכנות לתרגום אוטומטי. אחרי שמורי, פרופ' יהושע בר הלל ז"ל, הוכיח שתנאי קודם לפיתוח תוכנות כאלה הוא פיתוח תוכנות המגלמות את הבנת החיים של מי שחי אותם, איש לא העז להגיש בקשות למימון מיזמים שמוזכר בהן תרגום אוטומטי. הן פשוט נדחו על הסף. במיזם הדור החמישי, כפי שהסברתי, היה חידוש משמעותי שלא נמצאה לו התייחסות מושכלת בוויקיפדיה. בכל אופן גם הוא נשכח כליל, והיום תמצאו שהביטוי "דור חמישי" מתאר התקדמות סלולרית (5G) ולא התקדמות בבינה מלאכותית.

הסתייגות 4: הלוגיקה מוצגת בערך "בינה מלאכותית" בצורה מעוותת לגמרי. אין בו זכר לעובדה שהלוגיקה האריסטוטלית איבדה את התעניינות הלוגיקנים בסוף המאה ה-19 ובראשית המאה ה-20. הלוגיקה החדשה פותחה במרץ רב כלוגיקה מתמטית, החל מהאלגברה הבוליאנית של ג'ורג' בוּל, מ-1853, וכלה בתחשיבי לוגיקה שונים ומפותחים לאין ערוך מהלוגיקה של אריסטו. תחשיבים אלה עמדו לנגד עיניהם של מגדירי מושג החישוב הדיגיטלי בשנות ה-30 של המאה ה-20.

הטענה על שאלות היסוד של הבינה המלאכותית כי "אריסטו ניסה למסד את השאלות האלה באמצעות הלוגיקה הסילוגיסטית, שנותרת אחת מאסטרטגיות המפתח של הבינה המלאכותית, היא חסרת שחר, משתי בחינות. אריסטו ביקש למסד את הלוגיקה של התפיסה המדעית המצומצמת שלו, המבוססת על מיון בעלי החיים למחלקות ולתת-מחלקות, באמצעות כללי היסק (הנקראים סילוגיזמים) שמרכיבים את "הלוגיקה האריסטוטלית". ללוגיקה טריוויאלית זו לא היה שום תפקיד מפתח בחקר הבינה המלאכותית בשום שלב.

לעומתה, לדוגמה, התחשיב הלוגי שפיתח אלונזו צ'רץ, הידוע בשם "תחשיב-λ", נלמד כמעט בכל תכנית אקדמית למדעי המחשב בעולם. בעזרת לוגיקה זו בוטא אחד הנוסחים של הגדרת מושג החישוב ב-1936, והיא קשורה בעקיפין לשפת התכנות ליספ, שהייתה אהובה על חוקרי הבינה המלאכותית במשך עשרות שנים. לוגיקה זו קשורה גם לתפיסה האמפירית של מדעי המחשב שביטאו אלאן ניואל והרברט סיימון בניסיון המפורש שלהם לנסח עקרונות יסוד לבינה המלאכותית כמדע אמפירי. בהרצאתם ב-1975, לרגל קבלת פרס טיורינג על תרומתם למחקר בבינה מלאכותית, הם תיארו את המבנה הלוגי של שפת ליספ כבסיס לבינה מלאכותית.

בערך "בינה מלאכותית" בוויקיפדיה אפשר למצוא פגמים אופייניים נוספים. אבל הבעיה איננה נובעת רק מרמת השכלתם הירודה של הכותבים ברשת. נניח שקוראת סקרנית מעוניינת לאתר מאמרים מקוריים על הגדרת מושג החישוב (הדיגיטלי). היא תיתקל בבעיה שגרמו החוקרים עצמם. הם לא פיתחו שפה סדורה המאפשרת תקשורת ברורה, כפי שנעשה בתחומי דעת אחרים. והמצב הזה, שהתחיל עוד בשנות ה-30, שורר עד היום. אנו יודעים שטיורינג, צ'רץ', פוסט וקלייני כתבו על אותו נושא. אבל איך תוכל הקוראת הסקרנית לאתר את מאמריהם בנושא, מבלי להכיר אותם תחילה? עובדות אלו יכולות להסביר את הדמנציה הדיגיטלית הכרונית שנדונה במאמריי הקודמים.