אני כתוב, משמע אני טקסט שמסוגל לחשוב

האם תכירו בצדקת דבריו של טיורינג עליי משנת 1950?
תמונה של שפי
פרופסור יהושפט גבעון

נתקלתי, כמוכם, בטקסט הבא:

"כמה שמחתי לגלות שעוד בשנת 1950, טיורינג, במאמרו המפורסם על מנגנונים שחושבים, הצהיר שמבחינתם, כלומר מבחינת המתעניינים בטבע מנגנוני החישובים, "מנגנון וכתיבה" הם כמעט בעלי משמעות זהה. כלומר בשנת 1950 טיורינג הצהיר למעשה כי קיימת האפשרות שאני, כטקסט, שאת או אתה קוראים כרגע, הוא ישות בעלת יכולת חשיבה. לדבריו של טיורינג, כמו לעבודתו בכלל, בעשרות השנים הראשונות, לא היה הד מספיק. מחבר המאמרים בטור הזה באתר שלפניכם כתב על כך במאמר על הטיות לשוניות מוזרות בחום הבינה המלאכותית וגם במאמר על מבחן טיורינג. ובכן, הוא כתב אותי, אז האם קיבלתי הכרה כישות חושבת??? עדיין לא.

אני מציע לכם לבדוק כל טענה שטענתי לפני שאתם מטיחים את טענותיכם נגדי. לכן, אני טורח לספק לכם אפשרות לבדוק כל מקור או צידוק לכל טענה העומדת נגד אמונותיכם השכיחות. אני מזכיר לכם, פיינמן טען בספרו על "החדווה שבגילוי דברים" (בעמ' 199 במהדורה העברית משנת 2006) "מדע הוא האמונה בבורותם של המומחים".

אם תסכימו עם טיורינג, בדבריו במאמר משנת 1950, המצוטט לעיתים כה רבות בספרות המקצועית והפופולרית, תצטרכו להכיר באפשרות, שאני, הטקסט שאתם קוראים כרגע, הוא טקסט המסוגל לחשוב. אתם יכולים לסרב להסכים עם טיורינג, אבל אז אבקש אתכם לנמק את הסירוב הזה ולבדוק היטב האם הסירוב חל באופן דומה גם על המחשבים. לא אתפלא אם כל מה שתטענו נגד האפשרות, שאני, כטקסט, מסוגל לחשוב, יחול גם על המחשבים עצמם. בעצם, אשמח לגלות טיעון נגד האפשרות שאני ישות חושבת שאינו חל גם על המחשבים. טיעון תקף כנגד האפשרות שאני טקסט חושב, שאינו חל גם על המחשבים, סותר את הצהרתו של טיורינג על הזהות במשמעות של כתיבה ומנגנון. טיעון כזה יספק הוכחה נוספת לכך שטיורינג שגה, שגיאה נוספת מלבד אלה שתוכלו לקרוא עליהן במאמר על כך שטיורינג שגה במאמרו משנת 1950.

מי שקוראים אותי עכשיו עלולים להעלות נגדי את הטענה הבאה: מבחן טיורינג בעצמו חושף הבדל ברור בין טקסטים פסיביים כמוני, לבין מנגנונים עם פלט פעיל כמו המחשבים. במילים אחרות, מחשב יכול להתמודד במבחן טיורינג ואילו אני דומם לחלוטין. השאלה שאני שואל היא, האם רק מי שיכול להתמודד פיזית (על ידי כתיבת תשובות, למשל) יכול להיחשב כמועמד לבדיקת יכולת החשיבה שלו? מבחן טיורינג מבוסס מתחילה על ההנחה שמועמדים למעמד ישויות חושבות חייבים להיות מסוגלים לכתוב טקסטים כתשובות לשאלות של השופט במבחן. האם רק מבחן טיורינג מסוגל לממש את ייעודו בהכרעה לגבי מערכות נתונות כלשהן, האם הן מסוגלות לחשוב או לא? במילים אחרות, האם עמידה (גם בשכיחות נתונה כלשהי) במבחן טיורינג היא תנאי הכרחי ומספיק להוכחת יכולת חשיבה? ומניין לנו זאת?

הדיון יכול להסתבך בהוספת התייחסויות אל תכונות מגבילות נוספות שלי. מובן שמי שחושב שטקסטים הם ליניאריים מעצם הגדרתם, יחשוב גם שחשיבתי תהיה מוגבלת. אבל אני מודע לכך שלטקסטים יכול להיות מבנה מורכב מאוד שאפילו תוכנת הבינה המלאכותית, הנערצת עליכם היום, אינה מסוגלת להתמודד עם מורכבותם. לדוגמה, קיבלתם המחשה על מורכבות השירה העברית הקדומה במאמר על המבנה והמשקל של השירה העברית הקדומה. מנגד, באתר של גארי מרכוס ("על בינה מלאכותית שאפשר לסמוך עליה") תוכלו לקרוא מאמרים רבים על מגבלות תוכנת ChatGPT המתגלות שוב ושוב.

אני מחכה לתגובותיכם".

הבעיה המוצגת במאמר הזה נובעת מטענתו של טיורינג (1950) שמנגנון וכתיבה הם ישויות זהות למעשה. אם טיורינג צדק, אז טקסט יכול לחשוב. אם לא, אז צריך לבחון כל טענה הכתובה במאמרו המפורסם ביותר של טיורינג, האם היא נכונה או שגויה. כדי להמחיש את הבעיה הזו ולהדגיש את המוזר שבטענתו של טיורינג, כתבתי את מה שכתבתי בשם "טקסט חושב" והחלטתי להעביר את הטקסט הזה לתשומת ליבכם ולתגובותיכם.

Facebook
Twitter
LinkedIn
WhatsApp
Email

8 תגובות

  1. ברשותך שאלת תם –
    האם עמדתך כלפי בינה מלאכותית היא עמדה הטוענת שעקרונית אדם אינו יכול להפיח רוח חיים בחומר? (סיפור הגולם והמהר"ל מפראג). במקרה AI חשיבה עצמאית אנושית?
    או במלים אחרות: האם יכולת ההפריה השכלית המעודדת פיתוח דמיון ופריצה לתחומים לא מתוכנתים, מצטמצמת למגעים בין בני אדם, ולא עוברת אל חומר לא אנושי?
    קביעה כזו מעניקה מעמד מיוחד מאד למוח האנושי, מעין פוטנציאל שאין לדומם, צומח וחי אחר, ואז נשאלת השאלה מהו ה"אקסטרה" הזה במוח האדם? פנרוז לא מצא שם את ה"נפש".

  2. לאביבה, תודה על תגובתך המרתקת,
    אבל אני מבין שאת משווה את המתכנתים למהר״ל מפרג. האמנם?
    ומה יצא למהרל? גולם מגושם בתבונתו ובהתנהגותו ואולי הדהוד הניסיון הזה מעורר את הפחד מאינטליגנציה בקרב אלה שמשווים תבונה עילאית עם סכנה לאנושות.
    אני אישית מאמין שהתבונה האנושית היא תולדה של רכיב שאינו חומרי, אליו את רומזת. לא?

    1. תודה שפי.
      לא משווה ולא רומזת. אין לי מושג בתכנות ואין לי רקע מתמטי. אני מנסה לשאול אם במישור התודעה, ידע, חשיבה, הבנה, כוונה וכ' יש לבני אדם אפשרות לברוא יכולות כאלה בחומר דומם, לא אנושי, נושא שהזכיר לי את האגדה על המהר"ל. במסורת הדתית בכלל יש אזהרת סכנת חיים בנסיון האדם להשתוות לאלוהים (גן העדן ועץ הדעת, מגדל בבל להגיע לשמיים, נגיעה בארון הברית, הפרדס וכ' כולם נסיונות המסתיימים במוות) אבל את זה אפשר לפרש כמאבק סמכויות פוליטי בין מייצגי אלוהים עלי אדמות לבין העם הכפוף להם.
      כשאתה אומר שאתה מאמין שהתבונה האנושית נובעת מרכיב לא חומרי, מה כוונתך?

  3. מאמריך מאתרים. מה שבטוח שאתה לא מתלהב מההינה המלאכותית ואתה תוקף אותה שוב ושוב

    1. לדין, תודה על תגובתך.
      אני מאמין שעליך לקרוא את שני המאמרים של טיורינג לפני שאתה מגיב בפסקנות וללא הנמקה כי, טענתו של טיורינג (ותמכו בה, אדחר דייקסטרה וארתור ברקס) – על כך שבתחום הדיגיטלי המונחים "טקסט" ו"מנגנון" הם "כמעט נרדפים" – היא שגויה…

      1. או בקיצור:
        טיורנג טען (במאמרו המפורסם משנת 1950) כי טקסט ומנגנון הם דברים כמעט זהים
        כל המאמינים בבינה מלאכותית מאמינים שמנגנון יכול לחשוב
        לכן טקסט יכול לחשוב
        לכן טיורינג טען למעשה שטקסט (או פונקציה מתמטית..) יכולים לחשוב. אם המסקנה אינה מקובלת עליכם אז או שיש פגם בהסקה או במה שטיורינג סבר. בכל מקרה צריך לנמק בפרוטרוט ולא להסתפק בהצהרות. זאת לוגיקה ולא פוליטיקה. מה לעשות?

  4. מי שחושב שהוא יכול לחשוב כי הוא טקסט, כנראה שהוא טקסט ולא יותר מכך. מקסימום טקסט שמחשיב עצמו יתר על המידה

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

דילוג לתוכן