דנתי בתופעת הדמנציה השכיחה של חוקרי הבינה המלאכותית בכמה מאמרים קודמים. מאחורי דמנציה זו מסתתרת תופעה מכאיבה יותר. הקשורה בביטול עצמיותו של האדם.
בשנות ה-60 האזנתי להרצאה של פרופ' נועם חומסקי על היכולת הלשונית. הרצאה זו ניתנה לקהל הרחב באולם הרצאות של אוניברסיטת מישיגן שבה למדתי לקראת התואר השלישי שלי בתחום דעת שלימים ייקרא "מדעי המחשב". מהרצאה זו אני זוכר בעיקר טענה מפורשת של חומסקי ששום ידע פיזיקלי (נכון לשנות ה-60) אינו יכול ליצור הבנה של דיבור אנושי. ליתר דיוק, הוא טען במפורש שהתכונות הפיזיקליות של צלילי הדיבור, אינן יכולות להגדיר את תוכן הדיבור. לצידי ישב ידיד שלי, עמוס טברסקי (ז"ל), שהיה אז תלמיד לתואר השלישי בפסיכולוגיה, ובתגובה על דבריו של חומסקי הוא רטן "איך הוא יכול להגיד דבר כזה!?".
פרופ' לב מנוביץ מאוניברסיטת ניו-יורק פרסם בשנת 2013 ספר מפורט ("התוכנה משתלטת") שבו הוא למעשה מתלונן על כך שבכל הדיונים הנלהבים בהיבטים החברתיים של העולם הדיגיטלי, נשכחו בני-האדם יוצרי התוכנות ואשר יצירתם לא נבעה מהגדרות מושג החישוב, אלא הייתה פרי הדמיון הפורה של בני-אדם יוצרים (ראו, למשל, בעמ' 97-96 בספרו של מנוביץ).
במאמרי הקודמים הזכרתי שחוקרים רבים במדעי הקוגניציה מגדירים את החשיבה כזהה לחלוטין עם חישוב. הם רואים במוח כאיבר שעיקר פעולתו עיבוד נתונים כמו מחשב. הגדיל לעשות ראמון סקאראסקי שטען שהיכולת הקוגניטיבית האנושית איננה אלא היכולת לנהל ביצוע של אלגוריתמים נתונים בדיוק כמו שמכונת טיורינג אוניברסלית מבצעת תהליכי חישוב לפי נתונים של מכונת טיורינג ספציפית, כלומר, בדיוק כפי שפועלת מערכת הפעלה של מחשב. טיורינג בעצם חשף במאמרו משנת 1936, את העובדה שביצוע של חישוב יעיל לפי הגדרת החישוב, מתבצע על ידי חישוב יעיל. כך הוא גילה את קיומן של מכונות טיורינג אוניברסליות.
אף אחד מהחוקרים הללו לא התייחס אל היכולת של האדם הבאה לידי מימוש בגילוי או בהמצאה של אלגוריתמים. טיורינג (ועמיתיו) בשנות ה-30 רצו להגדיר מה זה ביצוע של אלגוריתם כחישוב יעיל ובטוח שלא ייתכנו בו פגמים. אף אחד מהם לא התעניין בכלל הביצועים המנטליים של ממציאי החישובים. טיורינג רצה במפורש להגדיר מה קורה בתודעת המחשבות כאשר הן מבצעות חישובים כמו בחשבון בסיסי, או בהנהלת חשבונות, ולא מה שקרה בתודעתו של אלח'וואריזמי כאשר במאה התשיעית המציא את החשבון. לכן אין להגדרת מכונת טיורינג האוניברסלית שום קשר מיידי עם היכולת האנושית של המצאת אלגוריתמים והישגים קוגניטיביים דומים אחרים כמו גילוי והמצאה של הוכחות מתמטיות ותיאוריות מדעיות. במאמר קודם (על יכולת ההתבוננות החזותית של העוסקים בגיאומטריה) תוכלו להציץ אל הנדרש מהמבקשים והמבקשות להמציא הוכחות למשפט ידוע בגיאומטריה. שום אלגוריתם לא הפיק את ההוכחות האלה, כי אז עדיין לא התגלה אלגוריתם שכזה.
קיימות משימות שנראות קלות יותר מגילוי והמצאה של הוכחות מתמטיות והן המשימות של הבנת אלגוריתמים נתונים. ועדיין אלה הן משימות לא פשוטות. לדוגמה, האלגוריתם של אויקליד (אתרו אותו) לחישוב מחלק משותף מקסימלי של שני מספרים שלמים כלשהם. גם משימות אלה רחוקות ממשימות ביצועיות של המחשבות משנות ה-30 (וקודם לכן וגם אחרי כן). כאמור, משימות ביצועיות אלה, ולא המשימות הקשות של הבנה וגילוי של אלגוריתמים, שוקפו בהגדרת מושג החישוב היעיל.
מה משותף לכל המשימות הנבדלות האלה? הן אינן מתבצעות בפועל על ידי אלגוריתמים נתונים ובחלקן אינן ניתנות לביצוע על ידי אלגוריתמים. בשנות ה-30 התעניינו לוגיקנים אחדים בגילוי ההבדל שבין שני סוגי המשימות האלה המתגלות בהקשר ההוכחות המתמטיות. שני סוגים אלה מוכרים היטב לכל מי שעוסק במתמטיקה: מצד אחד, קיימות המשימות הסכמתיות, האפרוריות, הבירוקרטיות והבטוחות. מצד שני, קיימות המשימות היצירתיות, שלא כל אחד יכול או יודע לבצען. כך התגלה אינטואיטיבית מושג החישוב היעיל, שעל הגדרתו הפורמלית עבדו טיורינג ועמיתיו בשנות ה-20 וה-30, ובעקבותיו פותח מושג האלגוריתם והחישוב הדיגיטלי.
במניע הזה של טיורינג ועמיתיו אדון בהרחבה במאמר נפרד באתר הזה. אני מתקשה להבין כיצד רבים מאמינים באפשרות שבינה מלאכותית תוכל להתמודד עם המשימות הנבדלות ממשימת החישוב היעיל , כאשר בינה מלאכותית מתבצעת תמיד על ידי תוכנות, ולכן, תמיד על ידי חישובים יעילים, ואמורה לבצע את המשימות שאינן מתגלות לנו כמתבצעות על ידי חישובים כאלה.
5 תגובות
שלום לפרופסור גבעון.
אתייחס לסייפא של דבריך בכסיס. "אני מתקשה להבין כיצד רבים מאמינים באפשרות שבינה מלאכותית תוכל להתמודד עם המשימות הנבדלות ממשימת החישוב היעיל , כאשר בינה מלאכותית מתבצעת תמיד על ידי תוכנות, ולכן, תמיד על ידי חישובים יעילים, ואמורה לבצע את המשימות שאינן מתגלות לנו כמתבצעות על ידי חישובים כאלה."
ההצעה שלי היא כלהלן. כל עוד ינסו לפתח בינה מלאכותית כתוכנת מחשב, לא נגיע לסינגולריות. אבל אם התפיסה שהמוח הוא סוג של מחשב, שמבצע עיבוד, תיזנח והתפיסה שהמוח פועל כמו CPU, כלומר שיש בו רק פקודות מוכנות מראש Opcodes שמחכות להוראת הפעלה בצורה קבועה, אפשר יהיה להתחיל להבין, לאן הבינה המלאכותית צריכה ללכת.
הטענה היא שזו טעות ללמד בינה מלאכותית תסריטים קבועים ולשפר את יעילותה. מה שאולי צריך זה ללמד אותה לנסות אקראית לפתוח ולסגור שערים לוגיים, עד לקבלת סיגנל ולטעות ברוב הפעמים. רק הטעות והגדילה מתוכה, יכולה לאפשר בינה מלאכותית, שתיצור בעצמה את האופקודים, בתהליך למידה, שמחקה את התהליך הלמידה האנושי.
במילים אחרות, המוח לגישתי, הוא OCPU כלומר מיקרופרוססור אורגני. המצחיק הוא שקוראים לו מעבד, למרות שלא מתבצעת בו פעולת עיבוד.
היכולת המנטלית תגדל ככל שהמוח ייצר יותר אופקודים שסכומם הוא התודעה.
מכאן קל להבין את חוק HEBB, את גישת ה IIT של פרופ טונוני ואת האמירות של פרופ' בארלו על התודעה כאוסף של רפלקסים תודעתיים.
העוצמה של המוח האנושי היא בגישה הישירה שיש לגירוי, אל התבנית המוחית, מבלי לעבור את כל ההירארכיות, אלא באמצעות גישה ישירה.
אשמח להרחיב לגבי כל נקודה שאינה ברורה, גם אם הכל אינו ברור. 🙂
שלום יגאל,
כל קבוצה סופית של אופקודים קובעת אלגוריתם, או בעצם, מכונת טיורינג. לכן, הצעתך לחשוב שהמוח ייצר אופקודים איננה מרחיבה את ההסתכלות של המוח מההסתכלות על התודעה כתהליך דיגיטלי ואלגוריתמי המופעל על קודים. שינוי אקראי של קבוצת האופקודים דומה לתיקון תוכנה על ידי פעולות אקראיות ובדיקתה כאילו הייתה מכונית, כלומר, מכונה מעידן התעשייה. בלי להבין תחילה את מהות התודעה אנו נישאר מטפסים על רכסיה כסומים בארובה….
אני מוקסמת מהכתיבה על נושאי טכנולוגיה בלשון פילוסופית
אולי בינה מלאכותית תא יכולה לבצע משימות יצירתיות מאוד אבל היא כן יכולה לקצר טעים מסויימים במשימה על ידי מיון וכדומה
היי שמאי,
תבונה מתאפיינת ביצירתיות של האדם. מיון היא אחת הפעולות הקלאסיות של עיבוד נתונים והיא בינה מלאכותית כמו המחשבון שלך. פעם חשבו שידיעת חשבון היא סימן לבינה עד שטיורינג ועמיתיו (בשנות ה-20 וה-30 של המאה שעברה) הראו שחישוב כל הפונקציות המתמטיות הידועות (למתמטיקאים) אינו דורש תבונה כלשהי.