כנראה לא קל לראות את הנולד

האם קל לנו להכיר באחריותנו על תוצאות מעשי ידינו?
צילום של שפי גבעון
פרופסור יהושפט גבעון

מרשל מקלוהן, בספרו משנת 1962 "הגלקסיה של גוטנברג", ספר שכתב במטרה המוצהרת של "הגדלה אמתית של האוטונומיה האנושית", העיר "האדם, החיה הבונה-כלים, אם בדיבור או בכתיבה או ברדיו, היה מעורב בהרחבה של חוש זה או אחר שלו באופן שיפריע לכל שאר חושיו וכשריו. אבל לאחר שערך את הניסויים האלה, באופן עקבי, בני האדם נמנעו מלעקוב אחריהם בתצפיות". כך מתבטא פרופסור לספרות אנגלית, ואולם בשפתנו נוכל לומר: האדם אוהב לבנות כלים כניסויים להרחיב את טווח קיומו, אלא שאיננו אוהב לבדוק בדקדקנות את תוצאות הניסויים האלה. במילים אחרות, הוא אוהב ליצור המצאות, אך מתחמק בעקביות מבדיקה יסודית של הנזקים שהשימוש בהן עלול לגרום. הדוגמאות לנזקים כאלה הן רבות ומוכרות: זיהום האוויר על ידי כלי הרכב הממונעים בעזרת דלק מאובנים, הפגיעה בציפורים על ידי השימוש הפרוע באמצעי הדברת מזיקים, השפעת פס הייצור על העובדים בתעשיית הרכב, זיהום מי הימים במוצרי פלסטיק שאינם מתכלים ועוד. אנו נהנים מהמצאותינו אך עוצמים את עינינו מרוב התלהבות.

שושנה זובוף, בספרה האחרון על כלכלת המעקב (2019), מצטטת (בעמוד 292) את יוסף וייצנבאום (1923–2008), שהיה מחלוצי הבינה המלאכותית. בהרצאה שנשא ביום 17 ביולי 1986, בכינוס של החברה לאינפורמטיקה בעיר קרלסרוהה בגרמניה שכותרתה הייתה "לא בלעדינו" ("Not Without Us"), אמר וייצנבאום כך:

"אינני יודע האם אלו מדעי המחשב במיוחד, או תת-הדיסציפלינה שלהם, הבינה המלאכותית, שיש להם חיבה עצומה ללשון מליצית. אנו מדברים באופן נלהב על כך שמערכות מחשבים מבינות, רואות, מחליטות, שוקלות ושופטות… מבלי שאנו בעצמנו נכיר בשטחיות שלנו, בנאיביות העצומה שלנו ביחס לרעיונות האלה. ובעצם הדיבור הזה, אנו משתקים את יכולתנו… להיות מודעים ליעד השימוש… אינך יכול לחמוק ממצב זה מבלי לשאול שוב ושוב: 'מה אני בעצם עושה? מהו השימוש הסופי של התוצרים של עבודתי?' ולבסוף, 'האם אני שבע רצון או מתבייש בתרומה שלי לשימוש הזה?'"

בקטע זה טען וייצנבאום כמה דברים חמורים:

  1. לעוסקים במדעי המחשב, כולל אלה העוסקים בבינה המלאכותית, יש חיבה עצומה לשימוש במטפורות מליציות כאשר הם מתייחסים אל מערכות מחשבים. המונחים "זיכרון", "שפת מחשב" ואפילו "שפה", "מערכת מידע", "פותר בעיות", "באג", "מכונה לומדת", "הוראות" או "פקודות" ורבים אחרים הם דוגמאות למטפורות מליציות כאלה. כל כך התרגלנו אליהן, עד שאיננו שמים לב לכך שהן מליצות חסרות תוכן.
  2. השימוש במטפורות אלה מעיד על שטחיות ועל הנאיביות העצומה שלנו החוקרים ביחס שלנו אל תבונת האדם, שהיא מושא הזילות של המטפורות האלה ומושא העיסוק בבינה מלאכותית.
  3. עצם השימוש במטפורות אלה מקהה את יכולתנו להיות מודעים לתוצאות של השימושים בכלים שאנו יוצרים.
  4. וייצנבאום מציע, כפתרון הכרחי למצב הזה, ללווֹת כל תהליך של פיתוח, בכל צעד, בשאלות נוקבות, שוב ושוב: "מה אני בעצם עושה? מהו השימוש הסופי של התוצרים של עבודתי? האם אני שבע רצון או מתבייש בתרומה שלי לשימוש הזה?"

בספר מפורסם שלו, "עוצמת מחשבים ותבונה אנושית: משיקול דעת ועד לחישוב", שפורסם עוד בשנת 1976, וייצנבאום ביטא זעזוע מהיחס של משתמשים רבים אל התוכנה "אלייזה" שהוא פיתח. תוכנה זו פותחה כדי להמחיש את הקלות ביצירת הדמיה שטחית של דיאלוג בין מטופל (המשתמש) ומטפל (התוכנה) בשיטת טיפול שלפיה המטפל אינו צריך להבין את דברי המטופל אלא רק לשאול שאלות המורכבות בשיטתיות מדברי המטופל. הוא היה ראשון בסדרה ארוכה של מדעני מחשבים ומפתחי תוכנות בינה מלאכותית שתפסו מה הם בעצם עושים. ואכן, מדי פעם אפשר לקרוא על ביטויי חרטה וביקורת של חוקרים ושל יוצרים בתחום מדעי המחשב שנהיו מודעים לתוצאות השכיחוֹת של השימוש בהמצאותיהם. אזכיר כאן כמה מהם.

דאגלאס הופשטטר התפרסם בעולם לפני ארבעים שנה בשל כתיבת נימוקים מאלפים כדי לשכנע אותנו שהבינה המלאכותית, המשמעותית, נמצאת סמוך לפתחנו. נימוקיו המאלפים רוכזו בספר "גדל, אשר, באך: פוגה מטפורית על נפשות ומכונות ברוח לואיס קרול". המקור יצא באנגלית בשנת 1979 ותרגומו המדוקדק לעברית, שנמשך 15 שנים, יצא לאור בשנת 2011. בספר מרתק זה התחיל הופשטטר בהסבר מפורט ומדויק של מושג המערכת הפורמלית, כפי שהוגדר על ידי אמיל פוסט בשנות ה-30, כדי להגדיר מהו עיבוד נתונים, או חישוב יעיל. מהסבר זה עבר להנמקה של סבירות החזון של הבינה המלאכותית. הוא ניסה להסביר כיצד הבינה המלאכותית יכולה להיווצר מפעולה של תהליכים לוקליים מאוד, שתבונתם מוגבלת מאוד, המתבצעים על סדרות של תווים, לפי הוראות פעולה מסוימות, כמו במערכות הפורמליות של פוסט, תו אחר תו, משבצת אחר משבצת. אני, בזמנו, המלצתי לכל תלמידיי לקרוא את הספר הזה, לפחות כדי להבין מה זאת מערכת פורמלית ולהבין מהו כלי דיגיטלי. להבנה זו תספיק קריאה נבונה ב-80 העמודים הראשונים של הספר. למטרה זו, אין לספר זה תחליף. אם תרצו להבין את הכלים הדיגיטליים מומלץ מאוד שתקראו את ההסבר של הופשטטר.

במשך השנים שחלפו מאז פרסם הופשטטר ספרים נוספים, אשר בהדרגה ביטאו את התפכחותו מהאמונה הנלהבת שניתן לבצע הדמיה מוצלחת של התבונה האנושית. הוא למעשה יישם את אחד הרעיונות שביטא וייצנבאום בהרצאתו, ועבר מקשירה נלהבת של כתרים לבינה המלאכותית העומדת בפתחנו ושעוד מעט תתגלה, אל חקירת תעלומות אמיתיות של הבינה האנושית, כמו יכולתנו בזיהוי תבניות צורניות (כמו ביצירת פונטים ובזיהויים) ובחשיבה על מושגים "נזילים", כלומר כאלה שאינם מוגדרים בדקדקנות (1995) ועד לנדרש מתרגום איכותי משפה (אנושית) לשפה אחרת. בספרו האחרון, שהוקדש לזכר אשתו שנפטרה ממחלה ממארת, התמקד ב"תשבחות למוזיקה של השפה" (1997). בספר זה הופשטטר מלגלג על הניסיונות הממושכים והדלים (מאז שנות ה-50) לפתח תוכנת תרגום איכותית בהתעלמות גמורה מהבנה משמעותית ומעמיקה של השפה האנושית.

במאמר קודם תיארתי בפירוט את גלגוליה של תוכנה החל מִשלב יצירתה של תוכנת בינה מלאכותית חדשה ועד להתעוררות של יוצרת התוכנה רוזלינד פיקארד, והכרתה בתוצאות המזיקות של השימושים הבלתי מוגבלים בתוכנה שיצרה. היא הודחה מניהול החברה שהקימה והחלה לפרסם ברבים את הסכנות הטמונות בשימושים בתוכנה שלה.

המעניין הוא שתמיד יימצאו קוראים שייפגעו אישית מביקורת על ערכה של הבינה המלאכותית. שוב ושוב הם יצהירו על אמונתם העזה בטכנולוגיה שתתפתח (כאילו מאליה), ובסופו של תהליך מעלותיה יגברו (כאילו מאליהן) על חסרונותיה. לעומתם, כפי שתואר בכתבה ב"הגרדיאן" מלפני שנתיים, שאוזכרה במאמרי על ההתמכרות הדיגיטלית, בשנים האחרונות בכירי המפתחים מעמק הסיליקון מתעוררים, זה אחרי זה, ומבטאים בגלוי את הבושה ואת הצער על התרומה שלהם לשימוש הקלוקל ביצירי כפיהם. אין ספק שאנו מוגבלים ביכולתנו להעריך מראש את הערך המציאותי של המצאות

שיתוף ב facebook
Facebook
שיתוף ב twitter
Twitter
שיתוף ב linkedin
LinkedIn
שיתוף ב whatsapp
WhatsApp
שיתוף ב email
Email

6 תגובות

    1. שמפתחים דורש בדיקה קפדנית. המסר הוא פשוט: קשה לראות את הנולד ולנו יש הנטייה לחשוב שאם מוכרים למו כלי חדש אז כמובן, וללא הדיקה מעמיקה, אנו מאמינים שאיננו מזיק. אנו לא מעוניינים לחקור ואנו ממנעים מלהבין.

  1. לבדוק היטב את מעשי ידינו, לא יהיו עצים בכדור הארץ המזוהם שלנו.

  2. כי זה תלוי בהחלטות אנושיות
    אבל את התפתחות הטכנולוגיה אפשרי לחזות

    1. מעניין אותי מאד כיצד הגעת לתובנה ש"את התפתחות הטכנולוגיה אפשרי לחזות".

      ראשית, אינני יודע לאיזו טכנולוגיה התכוונת. למשל, האם התפתחות מערכת ההגנה הישראלית מפני טילים, נכללת תחת הביטוי "התפתחות הטכנולוגיה"?. התפתחות זאת בוודאי שהייתה תלויה בהחלטות אנושיות (בין היתר בסוגיית בחירה בין הגנה על-ידי לייזר ובין הגנה על-ידי טילים מתנפצים). ואם הכוונה היא רק לטכנולוגיה הדיגיטלית, כל מפתח (מתכנת או ממציא אלגוריתמים) יוכל להעיד לך על כמה החלטות אנושיות גלומות בהתפתחותה. בקיצור, עובדות רבות מעידות על כך שאת התפתחות הטכנולוגיה כנראה אי אפשר לחזות.

      אבל לא רק את התפתחותה לא ניתן לחזות, אלא גם כאשר נמצאת בידינו המצאה שפותחה כבר, איננו יכולים לחזות את התנהגותה. כדי להבין זאת כדאי להבין את מאמרי הקודמים בעניין זה: "האם טיורינג טעה?", "הברונים הדיגיטליים והחוק במאה ה-21", "האם יילמד הלקח מהתרסקות המטוס באתיופיה?" ואחרים.

      אם אפשר לחזות את התנהגות המצאותינו, אפשר היה לוותר על טיסות מבחן, ניסויי טילים, ובדיקות תוכנה, ובעיקר, השגיאות של המתכנתים היו נעלמות מעולמנו. מדוע לדעתך זה לא קרה?

כתיבת תגובה

האימייל לא יוצג באתר.

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

מייצג כסאות

רות הישראלית

תובנות אקטואליות מקריאה ישראלית במגילת רות

מהי שחיתות?

הגיגים על מה שמתרחש אצלנו בצמרת ההנהגה

מדביר מועך חרק

הדברת נמלים

למה כדאי לעשות את זה בצורה מקצועית?