האם אנו מודעים למה שאנו יודעים?

הלקח החשוב מההתנסות בפיתוח הנדסת הידיעה
תמונה של מר גבעון
פרופסור יהושפט גבעון

אחד החוקרים הראשונים שהצביע על חֲסָרים חמורים בתודעתנו היה זיגמונד פרויד שהביא לתודעתנו את מושג "תת-ההכרה". אבל הוא לא היה הראשון שהצביע על חוסר המודעוּת שלנו. אפילו אפלטון קדם לו בכך שטען בכישרון רב שרובנו ככולנו רואים בעיני הגוף שלנו רק צל של אמת כאמת, ואיננו שמים לב ל"מערה" שבה אנו מרותקים.

הסוגיה של המודעות לידיעתנו עלתה מחדש בימינו. בפרק מודחק של תולדות הבינה המלאכותית, כאשר בשנות ה-60 החל פרופ' אדוארד פייגנבאום מאוניברסיטת סטנפורד בפיתוח מודל מיוחד לעיצוב תוכנות נבונות, התגלה בפועל עד כמה המודעות של מומחים ביחס למומחיותם פגומה. הוא סבר שהניסיונות הקודמים לפיתוח תוכנות שחושבות נכשלו מפני שניסו למצוא חיקוי ממוחשב למשימות התבונה הכלליות ביותר. למשל, בשנות ה-50 ניסו לעצב תוכנה שתהיה מסוגלת בעיקרון לפתור כל בעיה שהיא ולפיכך גם קראו לה "פותר בעיות כללי".

לאור ההצלחות הדלות של המודלים הכלליים לבינה מלאכותית של שנות ה-50 סבר פייגנבאום שעדיף להתמקד בתחומי תבונה ספציפיים ולפתח בהם פותרי בעיות ייחודיים. הוא האמין שניתן לתרגם את הידיעה האישית של מומחים בתחומים ספציפיים למערכות של כללים ושל עובדות שאותם יהיה קל למחשב. לדוגמה, בזיהוי מבנים מולקולריים של חומרים אורגניים ממבנה שבירת אור העובר דרכם – כלומר, ממבנה התבנית הספקטרוסקופית שלהם; או בהכוונת חפירות לגילוי נפט על סמך מבני שכבות הקרקע המתגלים בחפירות ניסיוניות; ואפילו גם בעיבוד נתוני בדיקות רפואיות לאבחון מחלות ולהתוויית דרכי טיפול וכדומה. בתחומים אלה פועלים מומחים שמשיגים תוצאות טובות באופן עקבי מנתונים על ידי הסקת מסקנות חשובות מהנתונים הללו. לכן, טבעי היה לחשוב שניתן לתרגם את הידיעה המקצועית האישית שלהם למערכות של כללים ונתונים, שמהן תוכנה כללית להסקת מסקנות לוגיות תוכל להפיק את המסקנות הרצויות.

מערכות כאלה נקראו "מערכות מומחים" גם כאשר הן לא היו מבוססות על ידיעה אישית של מומחים. למשל, משרד החינוך בישראל קידם בזמנו תרגיל לילדים ללא קשר עם מומחים, כאילו כל תוכנה הכתובה בשפת התכנות הלוגי פרולוג היא מניה וביה מערכת מומחים. פרולוג נבנתה במקורה כדי לגלות הוכחות במתמטיקה.

חשוב לציין, כי נקודת החולשה של רעיון זה, של תרגום ידיעה אישית לידע המגובש כתוכנית מחשב המבצעת חישובים לוגיים, הפתיעה את פייגנבאום ועוזריו. זה התגלה בדיוק בשלב שבו מומחים התבקשו על ידי עוזריו של פייגנבאום לתאר את דרכי עבודתם. התברר כי המומחים לא ידעו כיצד לנסח את המומחיות שלהם במונחים של נתונים (כמו "זה וזה מעידים על מצב כזה וכזה שדורש פעולה כזו וכזו") ושל כללי היסק (כמו "אם למטופל יש חום גבוה שמתמיד, צריך לבדוק סימני דלקת בדמו"). מי שהכיר את שפת פרולוג זיהה מייד שמערכת כזאת של כללים ונתונים בנויה בדיוק כמו תוכנה שכתובה בשפה זו.

הצורך בפיתוח שיטה מוצלחת לתחקור מומחים נבע מהעובדה שהמומחים לא היו מודעים לדרכי עבודתם האישית. לשיטת תחקור זו קראה פמלה מק'קוֹרדוּק, מי שהייתה העוזרת הראשית של פייגנבאום, "טכנולוגיית ידיעה". באחד מספריה, על מכונות שחושבות, היא סיפרה שהמומחים שנשאלו על ידיעתם, נטו בתחילת התחקור לספר מה שכתוב בספרי הלימוד ולא מה שהם עשו באמת. מעבודתה של מק'קורדוק התברר אפוא, שאפילו גדולי המומחים לא ידעו כיצד הם מסיקים מהנתונים מסקנות המשקפות בהצלחה רבה את מומחיותם, ולכן צריך היה לפתח שיטות לתחקר אותם בדרכים מתוחכמות.

בבית הספר לחינוך באוניברסיטת תל-אביב הוקם בשנות ה-80 מרכז מחקר בשם "המעבדה לחקר טכנולוגיות ידע". חפשו את תיאורה באתר של אוניברסיטת תל-אביב ותראו לאן המונח "טכנולוגיית ידיעה" התגלגל כנהוג במונחים בשפת מדעי החברה. זׅכְרוּ גם שבשפה האנגלית אין הבחנה בין ידע לידיעה.

עוד בשנות ה-50, כאשר למדתי באוניברסיטה בתוכנית לתואר ראשון בהיסטוריה ופילוסופיה של המדעים, הובהר לנו על ידי המרצים, כי המדענים אינם מקור טוב לידיעת השיטה המדעית, כי אפילו המדענים, המצליחים ביותר בעבודתם, אינם מודעים לכלל פרטיה. לכן, התפתח תחום הפילוסופיה של המדעים שבו, לכאורה, ניתן ללמוד על השיטה המדעית באופן מבוסס יותר מאשר מתוך דברי המדענים בעצמם.

לכאורה, נוצרת כאן בעיה. איך אדע אם מה שלמדתי מפי פילוסופים של המדע (כמו מורי פרופ' יהושע בר-הלל ז"ל) יותר מבוסס ממה שמתארים המדענים (כמו פרופ' ריצ'ארד פיינמן, כפי שתוכלו לקרוא בספריו הפופולריים)? לגבי המרת ידיעה של מומחים, לתוכנה, יש לנו דרך מעשית להכריע בין תשובות מומחים, שנשאלים על האופן שבו הם מיישמים את מומחיותם, ובין תוצאות התחקור שפותח על ידי מק'קוֹרדוּק, במסגרת המחקר לקראת "הדור החמישי". אם מערכת מומחים מסוימת (מערכות מומחים ממש) תצליח בביצוע משימותיה, השוואת ההצלחה של מערכת כזו עם ההצלחה הירודה של המומחים בתיאור מומחיותם יכולה לאותת לנו שחשפנו את ידיעת המומחים ולא התפתינו להאמין לדבריהם.

למרות הכישלון של רעיון מערכות המומחים ורעיון הנדסת הידיעה ושל פרויקט הדור החמישי, דבר אחד התבהר לנו ללא צל של ספק. אפילו המומחים אינם בקיאים במומחיותם. הייתי מרחיק לכת במסקנותיי עד למתרחש כיום בזירות הפוליטיות. אם בדיונים כלשהם אנו מקווים להביא בר-פלוגתה לידי מודעות עצמית לתפיסותיו, קרוב לוודאי שניכשל כישלון חרוץ. ייתכן שזה ביטוי של תופעה ישנה שנקראת "דיסוננס קוגניטיבי". ואולם, כבר בטענה ישנה נושנה, "אין הנחתום מעיד על עיסתו", מובע הרעיון כי הנחתום אינו יכול להעיד על עיסתו.

שיתוף ב facebook
Facebook
שיתוף ב twitter
Twitter
שיתוף ב linkedin
LinkedIn
שיתוף ב whatsapp
WhatsApp
שיתוף ב email
Email

12 תגובות

  1. אתה אומר שתוכנה זה יותר ממחשב, ואני סבור ששניהם הם מרכיבים בדבר הרבה יותר גדות שיש בו לא מעט מרכיבים, וכולם ביחד מספקים את התוצאה

    1. אני אומר? היכן קראת זאת? כנראה שהתרכזות בתיאור פיתוחים בבינה מלאכותית כפיתוחים בתוכנה היא אמירה שלי ולא תיאור מה שקרה בתולדות הבינה המלאכותית כפיתוח של מחשבים נקרא בעיניך כאמירה שלי שתוכנות חשובות יותר מהמחשבים. אם תקרא בעיון את מאמרי הרבים באתר הזה בנושא היחס שבין תוכנה לחומרה תבין שמעולם לא יכולתי לומר זאת…

  2. שימו לב לפרדוקס. דוקא אלה שיודעים הרבה יותר מוגעים למה שהם יודעים, מאשר אלה שיודעים קצת.

  3. דעתי בשאלות אלו הינה כלהלן:
    אנחנו מודעים למה שאנחנו יודעים, אבל זה אינו מאפשר לנו לקבל החלטות מתוך בחירה.
    מה שאנחנו יודעים, הן תבניות ידע, שנוצרו על ידי הגירויים שנקלטו ומאוכסנות בסינפסות. תבניות אלו הן תסריטים תודעתיים, שבדומה למיקרופרוססור ולא מחשב, מופעלים תמיד באותה הצורה, כאשר הגירוי המבוים שיצר אותם, נקלט בפוקוס. לכן אים במוח שום דבר תבוני, אלא הכל הוא דטרמיניזם אישי, ברמת התודעה האישית.
    תהליך קבלת ההחלטה תוארה על ידי סלפרידג'ס, כעבודה של שדים מיחשוביים בגיהינום . מגיע שד ושואל "מי רוצה" והשד שצעק הכי חזק, מקבל את הביצוע.
    פרופ' הוראס בארלו, טען שהידע שלנו הוא הישרדותי. דונלד הב אמר שאם נוירונים פועלים זה אחר זה בהתאמה, אז זו הופכת לתהליך. או בצורה עממית נוירונים שיורים יחד, נקשרים יחד.
    פרופ' שי שלו שוורץ מאימובילאיי,אומר שלמידה היא תהליך שבו אנו משתמשים במידע, כדי ליצור ידע. ידע הוא רפלקס והוא אינו דורש עיבוד. זו גם עוצמתו של האדם. יש לו כל כך הרבה תסריטים מוכנים מראש, כך שהוא יכול להיות "מתאים" מבחינה אבולוציונית, לאורך כל חייו.
    תהליך הלמידה הוא תהליך אוטומטי, אקראי, הייתי אומר קוואנטי במהותו, שיוצר, עבור כל אחד מאיתנו, את התודעה הפרטית שלו, שהיא עולם מקביל.
    כדי שבינה מלאכותית תשווה לזאת של האדם, צריך ללמד אותה לטעות ולא להיות צודקת תמיד. כך היא תלמד להשתמש במשובים ככלי הכוונה. אפשר להשתמש במעבדי PGPA
    מאחר ולתודעה האנושית יש יכולת שמבדילה אותו משאר בעלי החיים והיא היכולת לפנות ברקורסיה אל עצמה, הרי כל התסריטים גלויים בםניה, אבל היא לא יכולה להחליט. ההחלטה נעשית על פי סוג הגירוי.
    לכן גם אין תת הכרה, אלא סינפסות ששומרות את הידע עד להופעת הגירוי. כמי ששר בציבור, לפעמים עולה שיר שלא שרתי עשרות שנים והוא מתנגן בי. היכן הוא הי? מאוכסן בסינפסה, עד שהגירוי המתאים נקלט.
    אני יכול להאריך עד אין סוף, אבל אני חס עליכם 🙂

    1. יגאל, תודה על טרחתך,
      אבל אף מילה מדבריך איננה רלבנטית לתופעה שעימה נאלצו מפתחי מערכות המומחים להתמודד באמצעות "טכנולוגיית ידע": המומחים לא היו מודעים לשיטות עבודתם.
      וביחס להסתכלות על המוח כעל מיקרופרוססור, שאיננה רלבנטית למאמר הנוכחי, המתן למאמר עתידי שלי על איך הבחין טיורינג בין זיכרון אנושי לזיכרון שמשובץ בכל מיקרופרוססור דיגיטלי. עוד ממצא של טיורינג שמתעלמים ממנו..

      1. תודה על התשובה המנומקת.
        האם המבוא שלי לנושא מקובל עליך?

        Abstract
        There is no free will, no awareness and no pre meditated values and beliefs in the brain, and yet the brain is so adjustable, absorbing and effective in establishing our mind and enabling our lives as humans.

        Our senses provide us with huge amount of data to process at each and every given moment. The idea of the brains" capacity, to process its entire surrounding's constant and massive data stream, into a coherent decision-making, is no less than mind-boggling. Since the mid 20th century, concepts of entropy reduction and theory of information were established by scientists, psychologists and philosophers as the basis for brain operation studies. Those concepts are necessary in order to understand how mathematics can manifest a computation mechanism capable of cognitive-like behavior.

        In the last 10 years and stemming from our empiric experience in the discipline of Micro processors (Embedded programming), we have studied and explored the brain. Our basic assumption was that the brain is a huge processor, an organic CPU, rather than a computer.

        Assuming that there is no one or nothing that writes the embedded codes, it is only logical to assume that the brain creates itself, in what we call the "Micro Evolution". And here is the breakthrough, the brain is build and automatically operated by the sensors, rather than the common belief that the brain uses the sensors. Our mind is a set of organ micro processor's OPCODE that are embedded in our physical brain. OPCODE is the set of commands that are stored in micro processors and are executed always at the same way. In the human body environment, these commands are basically Reflexes. this also makes the brain a "Central Reflexes Unit" – CRU

        This acquired knowledge, that we possess, enables us to define, develop the blueprint that will make it possible to build a brain environment which resembles the human brain.

        1. יגאל אפרתי,
          במאמר שלי דנתי בתופעה מיוחדת שהתגלתה בניסיונות לפתח "מערכות מומחים" על -סמך דבריהם. תגובתך איננה קשורה – אלא בעקיפין – למה שנדון במאמר. אין לנו שמץ של מודעות לדרך שבה המוח שלנו פועל…

          1. צר לי על תגובתך הפסקנית. הצגתי בפניך את המבוא לאתר שלי, שמתאר בדיוק, כיצד המוח פועל.

            1. פסקנית? האם קראת את הרצאת טיורינג מ-1947 שבה הוא טוען במפורש שהמוח איננו פועל כמו יחידת עיבוד מרכזית של מחשב? האם קראת את מאמרו של סטיבן קלייני מ-1965 שבו הוא מראה עד כמה דל מודל רשת הנוירונים של מקולק ופיטס מ-1943 שהציעו אחרי חקירת מוח של צפרדע, יחסית למכונות טיורינג? האם קראת את מאמריו של טיורינג מ-1936, 1937 ו-1950?

    1. שאלתך חני חשובה ואינני יודע כיצד להשיב עליה.

      האם את מומחית בתחום כלשהו? שהרי המאמר דן בתופעה שמומחים אינם מודעים לדרכי עבודתם. ושאלתי, בכותרת, האם אנו (ולא רק מומחים) מודעים למה שאנו יודעים? התופעה שגילו אלה שעסקו ב"מערכות מומחים" מעוררת את השאלה הכללית יותר – עד כמה אנו מודעים לידיעותינו? היות ומודעות היא תופעה שכלית רק מדע השכל יכול להשיב על שאלתך. וראי כיצד ללא שום בסיס עובדתי, המאמינים בביטול השכל, נדחפים כדי לבטא את אמונותיהם גם ללא קשר למאמר…

כתיבת תגובה

האימייל לא יוצג באתר.

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך