האם תמיד יש לציית לכללים?

שביל הזהב הסמוי בין אנרכיה להתנהגות רובוטית
צילום של שפי גבעון
פרופסור יהושפט גבעון

אנו נמצאים בתקופה של בלבול נוראי. לפעמים תקופות כאלה יכולות לשמש גם הזדמנות להתפתחות מזורזת בבירור שאלות נוקבות. מדוע רק "יכולות" לשמש? כי זה בידינו. לצאת מהקופסה או להמשיך להיות כלואים בה.

בשנות ה-80 של המאה הקודמת, אחרי ניסיונות מאכזבים רבים, חוקרי הבינה המלאכותית סברו שיש לזנוח את הרעיון שתוכנה תוכל להיות נבונה באופן כללי, ונכון יותר יהיה לעבוד על מקרים ספציפיים של תבונה, למשל כפי שהיא מתגלית בהתנהגותם של מומחים בתחומי התמחות שונים. הם האמינו שניתן ליצור, בכל תחום התמחות, מודל מתוכנת לבינה של מומחה אנושי באותו תחום, על ידי תכנות מערכת המורכבת משלושה רכיבים: (1) קבוצת עוּבדות המנוסחות בתבנית אחידה – "לנבדק פלוני יש חום של כך וכך מעלות צלזיוס"; (2) קבוצת כללים המנוסחים גם הם בתבנית די אחידה – "אם יש לנבדק כלשהו חום ברמה העולה על כך וכך מעלות צלזיוס, אז יש לבצע עליו בדיקה כזו וכזו"; ו-(3) מערכת המפעילה אלגוריתם להסקה לוגית של מסקנות מנתונים ומכללי היסק.

חשוב לציין שמסוף המאה ה-19 זו הייתה הגדרת הלוגיקנים למערכת לוגית: אקסיומות נתונות, כללי היסק ושיטות אלגוריתמיות להפעלתם. בפרט, שיטה אלגוריתמית כזו הייתה ידועה היטב מניסיונות קודמים לגילוי הוכחות במתמטיקה בעזרת אלגוריתמים. הרי כדי לגלות הוכחה במתמטיקה, צריך לדעת מה נתון ומה כבר ידוע, ומאלה ניתן, די בקלות, להרכיב שרשראות של היסקים, בתקווה שאלה יובילו אל מה-שצריך-להוכיח. מחקרים אלה הובילו ליצירת שפת תכנות מיוחדת הנקראת "פרולוג", שבה כל התכניות הן מערכות של עובדות וכללי היסק.

יישום הרעיון הזה ליצירת בינה מלאכותית הוביל לרעיון שצריך לתחקר מומחים בתחומם, כדי לדעת על סמך אילו עובדות וכללים הם פועלים. תחקור כזה מאפשר ליצור מערכת המדמה את המומחה בפעולתו. למערכת כזו קראו "מערכת מומחית" או "מערכת מומחה" ("expert system") ולשיטות התחקור קראו "הנדסת ידיעה". לפי ניתוח זה, מערכת מומחה היא תוכנה בשפת פרולוג. חוקרי הבינה המלאכותית האמינו אז בהתלהבות רבה שכך אפשר יהיה להוציא את תחום הבינה המלאכותית מהחורף הקשה שאפף אותו בסוף שנות ה-70. למרבית האכזבה, המאמץ הזה, שנקרא ונדון במאמר קודם "פרויקט הדור החמישי", נכשל לחלוטין ונשכח או הושכח. כדי להבין שהכישלון הזה יכול היה להיות צפוי מראש, צריך להבין מה מאפיין חשיבה של מומחים בביצוע פעולות מקצועיות.

מחקרים מודרניים, ממש בשנים האחרונות, כמו של פרופ' פטרישיה בנר (Patricia Benner), לפחות עד שנת 2011, חשפו שקיימות דרגות מובחנות של מומחיות, מטירון ועד למומחה. מחקרים אלה חשפו שההבדל בין טירונים לאנשי מקצוע מנוסים הוא שאנשי מקצוע שאינם טירונים, שכבר צברו ניסיון, אינם פועלים באדיקות לפי כללים. הם מסוגלים לגלות פתרונות בדרכים מפתיעות, בחריגה מהכללים הנלמדים בהכשרות המקצועיות. לתהליך החשיבה ביצירת פתרונות שלא על סמך כללים אנו קוראים "שיקול דעת" או "אינטואיציה". במילים אחרות, המערכות שקיווינו שיוכלו לפעול כאנשי מקצוע, לא יכלו להתעלות מעבר לדרגת המומחיות של עובדים הנסמכים בכל פעולותיהם על כללים. מערכות תוכנה תמיד פועלות לפי כללים מנוסחים מראש. לכן מערכות אלה יכלו להצליח כמערכות להדמיית מומחים רק במקרים סְפוּרים שבהם, במקרה, כללים היו מסוגלים לתחוֹם את תחום המוּמחיוּת בהצלחה. פירושו של דבר שהסיכוי לדלות את המוּמחיוּת של המומחים כדי לייצגה באמצעות מערכות מומחה מוצלחות, הוא קטן מאוד. ואכן, מי היום זוכר את ההתרגשות ממערכות מומחה?

מדענים כמו ריצ'רד פיינמן ואלאן סוקאל טענו במפורש כי אפילו לשיטה המדעית אין כללים מפורשים או פרוטוקולים קבועים. ליכולת המיוחדת שהייתה למדענים מומחים כמו ארכימדס, קפלר, ניוטון, מקסוול, פוסט, טיורינג, גדל, איינשטיין או פיינמן בגילוי תבניות חדשות, אין כללים. התבונה האנושית שמתבטאת בפעולתם של שחקני שחמט מצטיינים, של מבצעים מוזיקליים ושל מדענים יצירתיים, מאופיינת אפוא בחריגה מחשיבה לפי כללים.

לפי הבנתי, ואינני מחדש כאן דבר, תבונת האדם וחירותו מתגלות לא בציות עיוור לכללים אלא בזכות לשיקול דעת, כלומר בזכות לחריגה מכללים. למרבית הקושי, שום כלל אינו יכול לקבוע לנו מתי לציית לכללים ומתי להתעלם מהם. רק שיקול דעת ואינטואיציה יכולים להראות לנו מתי ראוי ונבון לשבור את הכלים.

לסוגיית החופש לשיקול דעת יש השלכות מעשיות רבות – לוגיות, חינוכיות ואפילו פוליטיות. הדרישה לפיתוח מושכל של היכולת לשיקול דעת וההכרה בזכות היישום של שיקול דעת לכול איננה קריאה לאנרכיה. מניעת הזכות לשיקול דעת היא עריצות הפוגעת בחירות האדם. כי שיקול דעת חופשי חייב להיות רקום בכל צעד שלנו, אחרת ניהפך לחברת רובוטים. אם איבדנו את האמון בשיקול הדעת שלנו, איבדנו את האמון בתבונתנו. ואם איבדנו את האמון בשיקול הדעת של עמיתינו, החברה שלנו לא תתפרק, אלא תתאבן ותסתייד.

Facebook
Twitter
LinkedIn
WhatsApp
Email

6 תגובות

  1. שבנהלים החדים ומפורטים יהיה כתוב בנקודות קריטיות שזה נתון לשיקול דעתו של המוסמך.

  2. צריך לבסס תרבות של כיבוד שיקול הדעת, כי בתרבות של נהייה אחרי התנהגות רובוטית ושל הערצת רובוטים, כל כלל כתוב יכול להיהפך לכלל רובוטי.
    ועוד, איננו יכולים לדעת מראש לאן תתגלגל המציאות והיכן תימצאנה הנקודות הקריטיות…

  3. אף פעם אי אפשר לדעת בביטחון אם לא היה יותר מצליח לבחור בכיוון אחר.

    1. במחקרים מדעיים ובמחקרים קליניים משתמשים במה שנקרא "קבוצת ביקורת" כדי להתמודד עם הבעייה שהעלית..

  4. האם ניתן לבנות האלגוריתם שיאפשר שיקול דעת. התשובה חיובית. 99 אחוז מהמקרים יובילו אוטומטית ע"י המערכות למה שהוכחו הפתרונות נכונים והיתר יופנו לאופציה בן בן אנוש יחליט אם להתערב.

    1. אתה מצהיר (ללא הסתייגות) שניתן לבנות "האלגוריתם שיאפשר שיקול דעת" הצהרה שבלוגיקה הוכח מזמן (לפני כמעט מאה שנים!) שאין זה כך.

      ומיד הוספת הערכה סטטיסטית של הצלחה של 99 אחוזים של המערכת שאתה מאמין שניתן לבנות אותה. בינתיים אין אפילו הצלחה כזו בתוכנות נפוצות כי אין אלגוריתם לבדיקת תוכנות ובבדיקת תוכנות אנו חייבים להסתמך על שיקול דעת.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

בקבוק בושם

STORY PHARM בישראל

סיפור ההצלחה של מותגי העל בשמים ואיפור

מיטה

חדר השינה "כמקדש"

מהי הפרעת שינה כרונית וכיצד אפשר לשפר את השינה

דילוג לתוכן