האם מטפורת האבולוציה תוכל לעזור לנו?

הספק, החשיבה הביקורתית והבינה המלאכותית
צילום של שפי גבעון
פרופסור יהושפט גבעון

הספק הוא מרכיב חשוב בחשיבה הביקורתית. הרעיון של פופר שתיאוריה מדעית חייבת להיות ניתנת להפרכה, ניתן לניסוח כך: שום תיאוריה מדעית כשלעצמה אינה חופשית מספק בנכונותה. ריצ'רד פ' פיינמן, בספרו "החדווה שבגילוי דברים" (יצא לאור בעברית בשנת 2006 בתרגום עמנואל לוטם) בפרק האחרון שבו הוא דן ביחס שבין מדע לדת, הוא הצהיר כי "המדע מְצווה לפקפק; יש הכרח מוחלט, על-מנת לקדם את המדע, להחזיק באי-וודאות כחלק מרכזי של העצמיות הפנימית שלך. כדי לקדם את ההבנה, אנו חייבים להישאר צנועים ולהודות שאנו לא יודעים." (עמ' 259–260). והנה, אחת הדחיפות המשמעותיות ביותר לפיתוח העולם הדיגיטלי נולדה במתמטיקה לפני 100 שנים בעקבות חיפוש אחרי אפשרות ליצירת בדיקה משכנעת של תורות מתמטיות באופן החלטי ומכריע וללא אפשרות של ספק או אי-ודאות.

לפני כ-150 שנה ספגה המתמטיקה כמה מכות או זעזועים אינטלקטואליים בעקבות גילוי בו-זמני של גיאומטריות שבהן אקסיומת המקבילים (הטוענת שעבור כל קו וכל נקודה שמחוצה לו קיים קו אחד ויחיד שעובר דרך הנקודה והוא מקביל לקו הנתון) אינה מתקיימת. באותם ימים חשיבות ההוכחות (כגזירה לוגית מאקסיומות מפורשות) כאמצעי היחידי לבדיקת אמת (מתמטית או לוגית) תפסה מקום עיקרי במתודה המתמטית. למעשה, כל הבעיות הנחקרות במתמטיקה הן "בעיות הוכחה".

לאחר מכן הגיעו גילויי פרדוקסים במושגי יסוד של המתמטיקה והלוגיקה, ואלה ערערו את מעמד ההוכחות והביאו להכרה בדבר חשיבותן של בעיות הוכחה מיוחדות: בעיות ההכרעה. בעיות ההכרעה נוגעות בצורך של ביטול מוחלט של הספק ביחס לתורות מתמטיות: האם גלומות בהן סתירות? האם כל הטענות האמיתיות הבנויות ממושגי היסוד שלהן ניתנות להוכחה במסגרתן? האם כל טענה המנוסחת באמצעות מושגי היסוד של תורה מתמטית נתונה, ניתן להוכיח אותה או את שלילתה? וכדומה. כיצד ניתן להכריע ביחס לתשובות לשאלות אלה בדרך שאיננה מוטלת בספק? הרי הוכחה בנוגע לספק כלשהו הבנויה באמצעים לוגיים איננה בטוחה אם האמצעים הלוגיים שעליהם היא מבוססת אף הם מוטלים בספק.

באותם ימים המתמטיקאים פיתחו גישות שונות לפיתוח המתמטיקה, והפעילה ביותר ביניהן הייתה "התוכנית של הילברט", שלפיה יש לפתח שיטות הוכחה ממוקדות שאינן מסתכנות בנגיעה במושגים מופשטים מדי ואשר תוצאותיהן אינן יכולות להיות מוטלות בספק. לשם כך פנו החוקרים אל הדוּגמה של תהליכים מתמטיים ידועים שתוצאתם לא הייתה יכולה להיות מוטלת בספק, דהיינו אל הדוּגמה של תהליכי החישוב בחשבון שפיתח אל-ח'וואריזמי במאה התשיעית. רק בראשית המאה ה-20, כפי שהזכרתי כבר כמה פעמים במאמרים קודמים, ניסו כמה מתמטיקאים להגדיר מה זה "חישוב יעיל", כלומר חישוב שאין להטיל ספק בתוצאותיו. מניסיונותיהם קיבלנו הצעות להגדרת מושג האלגוריתם ובעיקר דרכים למימושו כתהליך המתבצע על ידי מכונה המעבדת סדרות של סימנים. כל הכלים הדיגיטליים המצויים כיום בנויים לפי עקרונות המתכונת שהוצעה על ידי חוקרים אלה. בסוף מאמרי על סוף עידן הלמדנות הטקסטואלית שאלתי, למעשה, כיצד יכולים התקנים המבוססים לגמרי על תהליכים טקסטואליים לספק לנו בינה שהספק חייב להיות אחד הגורמים שמניעים אותה?

במילים פשוטות, כיצד תהליכים (דיגיטליים) יעילים יכולים לבטא הטלת ספק? לכאורה הדבר אינו אפשרי. ואם תהליכים דיגיטליים אינם יכולים להטיל ספק, כיצד הם יכולים להיות בעלי בינה המשתווה לבינת האדם?

קיימת דוגמה אחת שיכולה אולי לערער את הטיעון הזה. תהליכים המופקים ממערכות המורכבות רק מגורמים בעלי תכונה מסוימת יכולים להיות, בסופו של דבר, תהליכים אשר לתפוקתם יש תכונה השונה מתכונות גורמיה בתכלית שינוי. האדם כיצור חי וחושב מקובל על רבים מאיתנו כנוצר מגורמים חסרי חיים וחסרי מחשבה. לדוגמה, כאן תורת האבולוציה התגייסה לעזרתנו. לפיה, בתהליך ממושך של מיליוני שנים, אטומים נהפכו למולקולות, מולקולות פשוטות הפכו למולקולות אורגניות, מולקולות אורגניות הפכו לסלילי דנ"א, כלומר למולקולות חיות, אשר בתהליך ממושך של מוטציות וברירה טבעית הפכו לאדם זקוף וחושב. אטומים אינם חיים ואינם חושבים. גוף האדם מורכב לכאורה רק מאטומים. האם ניתן ללמוד מכך איך ליצור מתהליכים שאינם נבונים תהליכים נבונים? וכמה זמן יידרש כדי להפעיל חיקוי של האבולוציה וליצור בדרך דומה תהליכים דיגיטליים נבונים באמת, שמסוגלים לא רק לפתור באופן מתוחכם בעיות נתונות אלא גם ללמוד באופן משמעותי וליצור בעיות חדשות, להטיל ספקות ולחקור אותם?

כדי ללמוד מניסיון האבולוציה עלינו לבצע שלוש משימות מאתגרות מאוד: (1) ליצור תהליך אקראי של בניית מוטציות עם סיכוי להצלחה (כלומר ללא באגים רבים); (2) להגדיר חיקוי דיגיטלי סביר ומועט בבאגים לברירה הטבעית; (3) להפעיל את תוצרי שתי המשימות הקודמות בדרכים מסורגות ומהירות פי כמה וכמה מהאבולוציה של הברירה הטבעית. אחרת, כל הניסיונות המחודשים ליצירת בינה מלאכותית יימשכו אלפי שנים והתלהבותנו תתנפץ, כמו בניסיונות הקדומים ביצירתה מאז שנות ה-50 של המאה הקודמת, אל חופי המציאות המאכזבת. ואולם עדיין אנו נחפזים לקרוא לתוכנות מתוחכמות (המעידות יותר על בינת יוצריהן, שתכנתו אותן) ואצים לשווק אותן כ"תוכנות בינה מלאכותית". יתרה מזו, אנו קוראים "מכונות לומדות" למכונות המחפשות נקודות קיצון במשטחים שאינם ידועים לנו על ידי טיפוס בכיוון "מעלה" המשטח (ראו במאמרי על לקחים נבונים מבינה מלאכותית שנכשלה) או למכונות המקבלות חיזוקים כמו היונים בניסויים של סקינר. מה הסיכוי שבדרך זו תפותח בינה מלאכותית הראויה לשמה?

Facebook
Twitter
LinkedIn
WhatsApp
Email

8 תגובות

  1. לאחרונה ממש נפתחה מלחמה עולמית גדולה מול הבינה המלאכותית. אתה העלית סימני שאלה רבים וגדולים בתחום זה כבר מזמן.

    1. נכון העליתי סימני שאלה.. אבל לא נכנסתי לפאניקה פרט לחשש שהמשתמשים יורידו את רמתם וכתוצאה מכך תוכנות "יעלו" עליהם. זה האדם ולא המכונה…
      חג פסח שמח!

    2. וכן, ראי באתר של גארי מרכוס את מאמרו האחרון על מקרה המוות הראשון המקושר לשימוש בטכנולויה הדיגיטלית וכיצד הוא מגיב עליו

  2. מה שלקח אין ספור שנים להתפתחות האבולוציה האנושית, יקח מעט מאוד שנים יחסית להתפתחות האינטליגנציה המלאכותית

  3. אני מקווה שאתה לא מטיל ספק ביכולת האדם להמציא מערכת ממוחשבת שתפתור בעיות. מכאן והלאה זאת רק שאלה של שיפור הבנת אנשי פיתוח תוכנות, במה שהם עושים. כלומר נחוץ בעיקר זמן וכמובן סבלנות

    1. הדר, תודה על דבריך,
      שיפור הבנת אנשי פיתוח תונות יחשוף בפניהם לא רק את הקשיים בפתרון בעיות אנושיות, אלא גם את המגבלות העקרוניות של המערכות הממוחשבות ושל השיטות המיושמות בהן. כרגע אין זכר למודעות שלהם שקיימות מגבלות ששום סבלנות ואי-הטלת ספק ביכולת ההמצאה של האדם, אינן יכולות לפתור. רשתות נוירונים נחקרו על ידי המתמטיקאי סטיבן קלייני ותוצאות מחקרו פורסמו עוד בשנת 1951. שימוש בחיזוקים ללמידה לפי סקינר נדחה בחינוך על סמך תובנות אלה שאמורים לדעת מה זאת למידה וכרגע מתקבל בהתלהבות על-ידי מפתחי המכונות ה"לומדות". לא זמן ולא סבלנות יפתרו את המגבלות שהתגלו בכיוונים אלה. והרשימה לא הסתיימה. יש כאן ביטוי של בורות יהירה שמעוררת תקוות וחרדות..
      חג שמח,

  4. מאמר מעניין מאד.
    הדוגמה של האבולוציה היא גם תשובה להדר מימון. בני אדם ימשיכו לנסות לפתחאלגוריתמים יותר חכמים ויותר חכמים עד שבסופו של דבר אולי יצליחו.

  5. לאורך השנים יש בעלי חיים שמתפתחים ויש כאלה שנעלמים. כאשר מין נעלם כנראה שהתפתח לכיוון לא נכון עד כדי כליה. אולי האינטליגנציה המלאכותית הולכת להפחית אותנו ואני לקדם אותנו

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה שלניצה

חוקי או לא חוקי

ההתנחלויות ועזה בבית הדין הבין-לאומי לצדק בהאג

דגלי שתי המדינות

אמריקה ישראל

נאום ראש ממשלת ישראל בקונגרס האמריקני

דילוג לתוכן