מגבלות הידיעה של גילדת יוצרי הכלים

פיתוח הידע שלנו במדעי המחשב הוביל לתגליות חשובות, אך יש בהן פרדוקס. במאמרי האם טיורינג טעה? תיארתי תגלית אחת בפרוטרוט ובמאמר הזה אמקד את הדיון בהשלכות של תגלית כזו על מגבלות ידיעתנו.

המחשב הוא אמצעי מלאכותי. אנו מרבים להמציא ולייצר אמצעים וחומרים מלאכותיים ומשתמשים בהם כמעט ללא הבחנה, עד אשר אנו מגלים שלשימוש בתוצרים אלה יש תוצאות מסכנות חיים שלא צפינו מראש. דוגמה מצערת אחת: בשנות ה-80 של המאה הקודמת, שישה חולים שטופלו בקרינה בעזרת מערכת ממוחשבת מתו בגלל שגיאת תכנות (חפשו ברשת: "Therac-25").

כאשר מדובר ביצירת מולקולות מלאכותיות להרכבת תרופה חדשה, הזהירות והחשש מסכנה מתקבלים על הדעת מלכתחילה. אף על פי שאנו יודעים בדיוק ממה מורכבת המולקולה החדשה, איננו סומכים על ידיעתנו בנוגע להתנהגות החומרים בסביבות שונות ובתנאים שונים, ומתארים לעצמנו שאנו יכולים להיתקל בהפתעות ובאפקטים שלא יכולנו לשערם מראש. אנו יכולים לדעת היטב את חוקי הטבע החומרי, הידועים לנו מן הפיזיקה ומן הכימיה, ובכל זאת אנו מבינים היטב שעלינו לחשוש מפני תוצאות בלתי צפויות של שימוש בחומרים החדשים שאנו מייצרים. אנו עורכים ניסויים כדי להכיר את החומרים הללו טוב יותר. כאשר בונים תרופה חדשה, עורכים ניסויים זהירים כדי להעריך את תופעות הלוואי שלה. אבל בכל רגע נתון איננו יכולים להיות בטוחים לגמרי שמיצינו את כל הבדיקות האפשריות.

מראשית ימיה של השיטה המדעית אנו יודעים כי האמת המדעית "אינה דבר קבוע, נחלת העבר, אלא עליה להוסיף ולהיחשף בפעילות האנושית התבונית" – כך מצוטט בספרו של יוסף שורץ "מהמנזר אל האוניברסיטה" (1999) מדבריו של פייר אבלר, מייסד האסכולה הלמדנית בימי הביניים שחי בשנים 1079 עד 1142. מאה שנים קודם לכן התריע ממציא האופטיקה המודרנית, איבן אל-הית'ם, כי המדענים והמדע אינם מחוסנים משגיאות. בכך הם סללו את הדרך לביקורתיות, וזו הפריחה את המחקר המדעי וממשיכה להפריח אותו גם בימינו, על ידי חיפוש מתמיד אחר הפרכת אמתות.

פעם חשבנו שחלקיקי החומר אינם ניתנים לחלוקה, קראנו להם "א-טומים", וכך צמחה הכימיה כחקר המולקולות שהן תִּרְכובות של האטומים. שנים אחרי-כן, בסוף המאה ה-19, גילו מארי קירי ואנדרה בקרל את הקרינה הרדיואקטיבית וידעו להסביר אותה כהתפרקות של אטומים. כך נולדה הפיזיקה הגרעינית ואחריה התפתחה הפיזיקה הקוואנטית. היום אנו נמצאים במרוץ בלתי פוסק אחר גילוי החלקיקים שמרכיבים את עשרות החלקיקים הידועים לנו. אנו מחפשים אחרי החלקיקים הבסיסיים של כל החלקיקים וכאשר מתארים את החיפוש אחר "התיאוריה של הכול", שוכחים לציין שמדובר רק בתיאוריה של כל התיאוריות הידועות ולא באריזתן הסופית ולא בסיום המחקר בפיזיקה. למשל ייתכן שנגלה באופן מבוסס (ולא באמצעות פטפוטים דמיוניים) חלקיקים מסוג חדש לגמרי שיאפשרו הסברים מקיפים יותר, לא רק של התנהגות החומר הרגיל אלא גם של פעולת המוח האנושי. במדע הכול פתוח.

עלינו להבדיל בין המצאת חומרים וכלים חדשים, במציאות של עידן התעשייה, ובין המצאת כלים בעולם הספרתי, במציאות של ימינו. בניגוד לכלי עידן התעשייה, כמו המנועים למיניהם, הכלים הספרתיים – המחשבים, התוכנות, האלגוריתמים ותהליכי החישוב וכל מה שביניהם – נבנים ברמת פירוט מוחלטת. הם מפורטים באופן מפורש לחלוטין ומתנהגים לפי כללים מחייבים ללא אפשרות של חריגה. ודווקא כאשר הם הוגדרו במלואם (בשנות ה-30 של המאה הקודמת) התגלו אפשרויות של קיום של חישובים שאיננו יודעים מה הם עושים. במאמרי "האם טיורינג טעה?" הצבעתי כבר על נקודות אלה, ובמאמר הנוכחי ארחיב מעט את היריעה.

מה שלא הוסבר עדיין הוא כיצד ייתכן שאיננו יודעים דבר-מה במידה מספקת אף שידיעתנו אותו מפורטת לגמרי. זה פרדוקס של אי-שלמות. מגמת הפורמליזציה במתמטיקה במאות הקודמות נתמכה כדי להבטיח את אמינות השימוש בה, והנה, גדל הוכיח לפני כ-100 שנים שתורות מתמטיות המפורטות עד לתו האחרון, יכולות להכיל סתירות וטענות בלתי-מוכחות. טיורינג ועמיתיו, בהגדרת מושג החישוב כעשר שנים אחרי התגליות של גדל, רצו לבסס שיטות אמינות ויעילות לבניית פתרון של בעיות המוגדרות מלכתחילה בצורה המפורשת ביותר. גם הם הוכיחו שתהליכים חישוביים (קרי מתוכנתים) יכולים להיות מפורטים עד לתו האחרון ובכל זאת איננו יודעים עליהם פרטים חשובים, כמו: האם נפלה בהם שגיאה? האם הם זהים לתהליכים אחרים? האם הם מספקים, במספר סופי של צעדים, תשובה כלשהי? האם במהלך ביצועם נקבל בפלט תו מסוים?

גילוי התוכנות שאיננו יודעים מה הן עושות מחייב אותנו להבדיל בין כמה רמות ידיעה: רמת הידיעה הפרוצדורלית, הנמוכה ביותר, מוגבלת לידיעת חוקי המשחק מעצם בנייתם והגדרתם, לעומת רמות ידיעה מקיפות יותר. ומכיוון שמדובר בעולם מלאכותי, של הכלים הספרתיים, אפשר להגדיר היטב את הרמה הבאה של הידיעה: ידיעת התשובות לכל השאלות בדבר כל ההתנהגויות האפשריות של כלי נתון. רמת ידיעה גבוהה עוד יותר תהיה ידיעת התשובות לכל השאלות בדבר כלל השימושים האפשריים בכלי הנתון, בכל הסביבות האפשריות. רמת הידיעה הפרוצדורלית מוגבלת אפוא ואיננה מספקת את ידיעת "הפוטנציאל" של השימוש בכלי נתון כלשהו.

מגבלות הידיעה הפרוצדורלית מוכיחות גם שהשימושים בתהליכי בנייה למטרות למידה הם כבר בעלי מגבלות שעלולות לפגוע באפשרויות הידיעה של הלומדים. ההתלהבות השכיחה בקרב אנשי חינוך מ"למידה על-ידי עשייה", כמו ההתלהבות מכלים ספרתיים שנבנים על-ידי תלמידי בית הספר, לא יכולה לעקוף את המגבלות האלה. עד שלא נתמודד היטב עם התכונות של הכלים שאנו בונים, לא רק שיימסרו לידינו ולידי ילדינו כלים מבלי לדעת את מלוא היקף פעולתם, ילדינו יעסקו בפעילויות שלא יתרמו לידיעתם. בקורסים הרבים להוראת הנושאים הקשורים לכלים החדשים ולשימושים בהם, לא נמצא זכר לתיאור התכונות של הכלים שאנו מתפעמים מהם.

העוסקים בייצור הכלים מתייחסים אל עיסוקם כאל גילדה מקצועית, המגינה בחירוף נפש על סודות המקצוע שלה, והתייחסות זו מובילה אותנו להכרה שהתרבות האופפת את השימוש בכלים החדשים היא תרבות של אנטי-ידיעה ואנטי-הבנה. מספיק לעיין בשיח המלווה את נושא הבינה המלאכותית כדי לחשוף עד כמה רחוקים אנו משאיפה להבין את מעשי ידינו. מקלוהן ציין במרירות נפש, עוד ב-1962 בספרו על המצאת מכונת הדפוס של גוטנברג, כי "האדם, החיה הבונה כלים … היה מעורב בהרחבה של חוש זה או אחר שלו באופן שיפריע לכל שאר חושיו וכשריו. אבל, לאחר שערך את הניסויים האלה, באופן עקבי בני האדם נמנעו מלעקוב אחריהם באמצעות תצפיות."