הבעיות הכרוכות בארגון רגולציה בבינה מלאכותית

מי יפקח על השימושים הלא מבוקרים בבינה המלאכותית?
תמונה של שפי
פרופסור יהושפט גבעון

ההתלהבות מתוכנות הבינה המלאכותית חושפת פגמים במוצרים שלהן עד כדי העלאת החשש שגל ההתלהבות הנוכחי ידעך ותוכנות כמו ChatGPT, תצטרפנה אל קודמותיהן במגרש האשפה של התוכנות המהוללות שריגשו אותנו מדי פעם בהיסטוריה הארוכה של הבינה המלאכותית מאז 1950. הן ריגשו אותנו, אׅכזְבוּ אותנו ונמחקו מהזיכרון שלנו, כאילו לא היו. אחד ההבדלים הבולטים בהתייחסות שלנו אל התוכנות הנוכחיות הוא שבנוסף להתלהבות עיוורת, מלווים אותנו חששות מהנזקים ששימושים לא מבוקרים בבינה מלאכותית עלולים לגרום. לכן, בימים אלה, רוחשת פעילות רבה ליצירת מערכת גלובלית לטיפול בסכנות הבינה המלאכותית. גורמים מדיניים שונים דנים בהקמת כוח פיקוח בינלאומי להגנת האנושות מפני הסכנות האלה.

גארי מרקוס, במאמרו "על שני מודלים לפיקוח על בינה מלאכותית – וכיצד דברים יכולים להיות שגויים לגמרי" (פורסם ב-9.6.2023) הצביע על פגם בסיסי בחשיבה של פוליטיקאים המנסים למצוא פתרון לבעיית ההתמודדות עם הסכנה שבבינה המלאכותית. מרקוס טען שהם לא מתייעצים עם מומחים מסוג אחד שבלעדיהם הפתרון צפוי להיות שגוי. יש לפנינו דוגמה מובהקת לתופעה שבה דנתי במספר הזדמנויות. תופעה זו מתגלה בבחירת היועצים של מערכת החינוך משנות ה-60 ועד היום בפרויקטים לשילוב חינוכי של המחשבים במוסדות החינוך ובתפיסת החינוך כפעולה מנהלית. במאמר הנזכר לעיל מצביע מרקוס על כך שלכנסים ולוועדות, שנועדו להציע ואף לגבש פתרון רחב אופקים לבעיית הרגולציה על הבינה המלאכותית, לא הוזמנו מדענים. לטענתו, ליצרנים ולפוליטיקאים אין די ביקורתיות עצמית על מנת להגדיר אמצעי פיקוח יעילים על השימוש במוצריהם כמו שיש למדענים. מצערת העובדה שפוליטיקאים נחשבים כפעילים חברתיים חסרי בקרה עצמית. לעומתם, המדענים (לפחות בצד אחד של הקמפוס) פיתחו מנגנוני בקרה עצמית יעילים מאוד.

טבעי שנסיק מהגדרת המונח "טכנולוגיה", שהבנת כלי דורשת את הבנת הידע המדעי שמיישומו הכלי נוצר. לכן, בדיונים רציניים בטכנולוגיות הבינה המלאכותית, מתבקש לכלול התייעצות עם מדענים החוקרים את הבינה הטבעית או גם את הכלים עצמם. כלומר הפסיכולוגים ומדעני המחשב היו אמורים לספק לנו מומחים כאלה. אז מדוע מדענים לא נחשבים כמתאימים לדיונים רציניים בארגון רגולציה על תהליכי פיתוח הבינה המלאכותית?

אני סובר שמדענים, בעיקר בתחומים הקרובים למדעי הטבע, איבדו את אמון הציבור מאז שנות ה-40, מפני שהם לא הראו סימני ביקורתיות אחרי שגייסו אותם לפיתוח פצצת האטום. אומנם אופנהיימר, מי שהיה המנהל המדעי של הפרויקט לפיתוח הפצצה, תיאר את תגובתו האישית, אחרי הניסוי הראשון, בציטוט מתוך בהגאוואד גיטה: "הנה הפכתי למוות, הייתי למחריב העולמות", אבל בתהליך פיתוח הפצצה שהובל על ידי עשרות, או מאות מדענים, איש מהם לא נרתע מהפרויקט ולא הזהיר אותנו מהתוצאות הנוראות של שימוש לא מבוקר באנרגיה גרעינית. נדמה לי שכך נסדק מעמדם של המדענים, מעמד שאותו רכשו בעמל רב במשך מאות שנים.

בחיפושי פתרונות גלובליים מתעוררת בעיה נוספת והיא, שמאחורי הפעילויות לארגון רגולציות בטווחים גלובליים וללא ביקורתיות הולמת מסתתרות ומוסתרות נטיות שתלטניות שעיקרן הוא בשאיפה להקים מוסדות שלטון עולמיים חסרי ביקורת.

הדוגמה הצורבת ביותר המוכרת לכולנו לארגונים גלובליים שצריך להיזהר בהם, היא ארגון האומות המאוחדות ומוסדותיו. ראשיתו כארגון שופע אהבת האדם, אך הוא הידרדר חיש מהר. דוגמה אחרת למוסד כזה הוא בית הדין הבינלאומי בהאג. ראו כיצד אנו, בישראל, היום, פוחדים ממנו.

הביקורתיות המדעית הצליחה מאוד במדעי הטבע, וכפי שטען ראסל, ההצלחות הטכנולוגיות (הוא קרא להן "מדע שימושי" בספרו על "ההיסטוריה של הפילוסופיה המערבית וקשריה עם הנסיבות הפוליטיות והחברתיות מימי קדם ועד לימינו" שיצא לאור בשנת 1945) הן הוכחה מוצקה להצלחת השיטה המדעית מאז המאה ה-18 ועד היום. לקבוצות אנושיות שונות יש נטייה להיגרף אל פעולות מטופשות ומרושעות. ההצלחה של מדעי הטבע היא יוצאת דופן ביצירת פעילות אנושית המסוגלת לנקות את עצמה משקרים ומטעויות. אף שהמדענים נסחפו ליצור כלי נשק הרסניים כמו פצצת האטום, מדעי הטבע עצמם, כיצירה משותפת של קהילת מדענים, עלו באיכותם האתית על המדענים שיצרו אותם.

מה יתגלה בתחום פיתוח הבינה המלאכותית? קוראים רבים יאמינו שבהכרח התחום יתפתח ונתגבר על כל הקשיים. במאמרי הקודם, על הנטייה המנטלית השכיחה בדיונים בבינה המלאכותית, הצבעתי על האפשרות שלא יתגלה מאליו שום דבר מבוסס בתחום המרתק הזה, עד שלא יחקרו כראוי את הבינה הטבעית.

Facebook
Twitter
LinkedIn
WhatsApp
Email

3 תגובות

  1. ככה זה תמיד. כשיש טכנולוגיה חדשה לוקח הרבה זמן עד שמבינים את הבעיות שהיא יכולה לגרום. ואז לוקח עוד הרבה זמן עד שמגיעים להבנה איך להגביל אותה חוקית. בינתיים כמובן שיש בעיות. יש ויכוחים. אבל אחרי הרבה זמן יוצרים הגנות ומגבלות. ובינתיים צצות טכנולוגיות חדשות עם בעיות חדשות.

  2. אני בטוח שהבינה המלאכותית יהיה אחד התחומים הכי נחקרים בתחום טכנולוגיות המידע, ואולי אפילו במקום הראשון
    כל כך הרבה פוטנציאל. אבל גם סימני שאלה ופחדים. זה יוליד הרבה מחקר

    1. מה יעזור חקר הבינה המלאכותית ללא התקדמות בחקר הבינה הטבעית?? כאשר לא יודעים תכונות של מושא הערצה, מדברים על "כל כך הרבה פוטנציאל"…

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של עמירם

השלכות

על תכונותיו של אדם בוגר

דילוג לתוכן