בשיחה עם ידיד, איש אקדמיה מוערך, ניסיתי לגרום לו להתלהב מהיכולות של ChatGPT כמקור איסוף מידע נגיש ופשוט יחסית בעולם האקדמי.
התגובה הייתה נחרצת: "לא רוצה לשמוע על זה. זה סוף העולם האקדמי. אף אחד לא ישקיע בלימוד ומחקר כדי לכתוב עבודות אקדמאיות", אמר חברי.
"מה האלטרנטיבה?" שאלתי. הרי משהכלי נוצר ועובד, אנשים ישתמשו בו, יכתבו עבודות ותזות ויפרסמו מאמרים מורכבים בדרך להכרה אקדמית, אף שהם לא השקיעו בה כל מאמץ.
כאן התעוררה בי רוח המאמן המנטלי. "אני מציע לך לראות שלא תוכל להתמודד עם הטכנולוגיה החדשה באמצעות שלילתה ובלימתה הרשמית. אז קודם כול, כמו בודהיסט טוב, ותר על ההיאחזות שלך במה שידוע, ומכיוון שאי אפשר לבלום את ההתקדמות, בחר במה שקיים פיזית, כפתרון שעליך להתאים את עצמך אליו ולא להפך".
??????? הביעו פניו של ידידי.
"אנא ענה לי, מה חשוב יותר, שהם יכינו מאמר על פי הדרישות, או שהם יכירו את החומר לאחר שבחנו את שאלת המחקר והכינו את העבודה האקדמית?"
"שני הדברים," ענה ידידי.
"אם אתה מסכים שמה שבאמת חשוב הוא שהכותב ידע מה כתוב ויבין אותו, אז אולי אפשר לוותר על החשיבות של הדרך?"
"נניח," ענה החבר.
"אנא נסה לראות שממילא הכותב, שמגיש תזה, צריך להגן עליה. כלומר גם אם מישהו נתן לו את העבודה או שהמאמר הגיע לידיו מן המוכן – אם הוא יוכל להצביע נכונה על שאלת המחקר וכמובן להסביר מילולית את רוח המאמר ופרטי המאמר, הרי שהוא בהחלט מכיר את החומר. אז מה ההבדל בינו לבין מי שקנה מאמר ולמד להגן עליו, דבר שקיים כל הזמן?
הרי גם אם לא תאפשר זאת, מישהו כבר ייצור פתרונות שיאפשרו לאנשים להתמיר את התוצרת של ה-ChatGPT לניסוח שונה, ולא השגת כלום. אבל אם תאפשר ל-ChatGPT לכתוב ואז תבחן לעומק את מגיש המאמר או התזה, אז הוא יהיה חייב להכיר את החומר על בוריו, ויצאת נשכר. זו גם עבודה קלה יותר, גם חקירה אמיתית וגם עמידה בחזית הטכנולוגיה".
מובן שאני כותב זאת מנקודת המבט של האימון המנטלי, שבה אני מלמד לקבל את הקיים ולהתאים את עצמנו למה שיש. אם אי אפשר לבלום את ה-ChatGPT, נמצא את הדרך לבחור בו ולרתום אותו לצרכינו. כדי שזה יקרה, צריך לוותר על ההיצמדות למה שיודעים ושעד היום שימש קו מנחה קשיח (אל תאמינו לי, תשאלו את הבודהה). או אז ניתן יהיה להיפתח לדרך, לרתום את העוצמה החדשה לטובתנו ולקדם את נושא המחקר.
אני לא רגוע. ההתנגדות תהיה קשה. אבל יש עוד נקודת התנגדות מסוכנת לפנינו. לנקודה זו קוראים נקודת הסינגולריות. היא מסמנת את העובדה שהבינה האל-אנושית של המכונות תשווה לבינה האנושית. לא בינה מלאכותית, אלא בינה שתתפתח אצל המכונות כמו שהיא מתפתחת אצל בני האדם. אם נלמד שלא להילחם בה, אולי נינצל. אם לא, לדעתי זה יהיה סופו של המין האנושי.
אז כמאמן מנטלי אני חוזר על ההזמנה. אל תילחמו בקידמה, ריתמו אותה לטובת המין האנושי.
15 תגובות
נכון מאד שהעיקרונות המנחים אותנו צריכים להיות גמישות והתאמה למשתנה, אבל הסכנה אינה שבינה מלאכותית תישווה "בשכלה" לאנושית. הסכנה היא שיתפתח בה אגו אישי (או קולקטיבי) ואז הבינה האל אנושית תתחיל לדאוג לעצמה ולא לשרת – כמו היום – את האדם.
לאביבה. זה מה שנקרא Wishful thinking
צריך להבחין בין שני סוגים של בינות לא אנושיות:
בינה שאינה יוצרת תודעה עצמית. זו הבינה של ה ChatGPT. זו באמת בינה מלאכותית. היא לא תפגע במין האנושי, כי היא לא תפתח רגשות ורצונו.
סוג הבנה השני הוא הבינה היוצרת, זו שלא לומדת רק מידע קיים, אלא יודעת לשאול שאלות, לפתוח פערים, ולסגור אותם בכוחות עצמה. זו בינה שתהיה שווה לאופי של הבינה האנושית, אבל חזקה ממנה.
מהרגע שהבינה היוצרת תיווצר איכשהו, היא תלמד שהיא צריכה לשמור על עצמה, דבר שישים אותה ראש בראש איתנו. נקודה סוף!!
לא הבעתי משאלת לב, שזו תקווה סתמית ולא משפיעה על איום עתידי. יחד עם זאת לא ברורה הקפיצה מהשכל המנתח – גם המתפתח ולומד – לתודעה העצמית בה הרובוט פוקח עיניים ואומר "אני", ואז נוצרים אצלו יצרים, כוונות וכל מיני תכונות פסיכולוגיות. האם באמת יש חיבור הכרחי בין העובדה שהבינה המלאכותית יכולה להגיע להישגים שכליים שווים לאדם ואפילו עולים עליו, לבין פיתוח "נפש" עם מרכיבים פסיכולוגיים אנושיים? נראה שזו פרדיגמה אנושית (למשל הרעיון של אכילה מעץ הדעת שהוא בעצם מרד באדון (עולם) ומעבר לעצמאות).
אולי אצל רובוטים אין תהליך כזה, והם לנצח יישארו משרתי האדם (שזו כבר צרה אחרת כי תלוי איזה אדם…)
לתמצת את כל מה שאמרת במשפט אחד. ברגע שהבינה תדע לשאול שאלה שלא מופיעה בבסיס הנתונים שלה, זה הזמן לדאוג, כי זו הבינה שעלולה לגבור על הבינה האנושית
מסכים לגמרי. בכל התפתחות טכנולוגית יש מינוסים ויש פלוסים. על המנהיגים לדאוג שנפיק את מיטב הפלוסים, בעוד שמירה המינוסים ינוטרלו
לאביבה. זה מה שנקרא Wishful thinking
צריך להבחין בין שני סוגים של בינות לא אנושיות:
בינה שאינה יוצרת תודעה עצמית. זו הבינה של ה ChatGPT. זו באמת בינה מלאכותית. היא לא תפגע במין האנושי, כי היא לא תפתח רגשות ורצונו.
סוג הבנה השני הוא הבינה היוצרת, זו שלא לומדת רק מידע קיים, אלא יודעת לשאול שאלות, לפתוח פערים, ולסגור אותם בכוחות עצמה. זו בינה שתהיה שווה לאופי של הבינה האנושית, אבל חזקה ממנה.
מהרגע שהבינה היוצרת תיווצר איכשהו, היא תלמד שהיא צריכה לשמור על עצמה, דבר שישים אותה ראש בראש איתנו. נקודה סוף!!
מצטער יגאל,
אמנם ההמלצה שלך לבדוק את הבנת מגישי העבודות היא נאותה, וגם הערתך על ההבחנה בין שתי בינות, מעניינת ורלבנטית, אבל ההתייחסות שלך לתוכנה החביבה התורנית ולעצם סוגיית הבינה המלאכותית מעידה על פערים בין דבריך לבין המציאות. אתה מדבר על התוכנה הזאת כאילו היא ירדה אלינו משמיים ולא נוצרה בידי בני אדם שהשתדלו לבנות הדמייה של יכולת לשונית מבלי שעמדו על טבעה של הלשון האנושית. גם האגדה על "סינגולריות" נובעת מבורות כי לפונקציות מעריכיות אין נקודות סינגולריות. אבל המלה "סינגולריות" מצלצלת כל כך בלשוננו שאנו שוכחים את אזהרת מקלוהן מה קורה לנו כאשר איננו מבינים את המדיום. ואם נותרה בלבך תשומת לב, אשמח אם תציץ במאמרי: https://jokopost.com/it/17841/
פרופסור גבעון היקר. לעונג לי לי לקרוא את דבריך ואני מציע שנשוחח בפרטי ואף שניפגש.
מספר הנייד שלי הוא 0547855144
השילוב שעשיתי בין ההדרכה המנטלית לבין הטכנולוגיה (שאני בכלל לא מבינה בה) הוא מעניין מאוד.
גם איום וגם סיכון
והפרופורציות בניהם תלויים בהבנה שלנו
ובצעדים שננקוט
נושא מעניין, לרוב האוכלוסיה לא בדיוק ברור. ההערות בתגובה למאמר מוכיחות כמה הוא חשוב וזקוק להבהרה.
רוב האנשים, כולל המשכילים, לא מכירים בכלל את המושג ולכן לא יכולים להבין את המשמעות האמיתות של המאמר והטוקבקים שלו
שיתאמצו, אם זה שווה להם 🙂
למה להתאמץ אם כל אחד יכול לרטט בנושא בלי לדעת אפילו מהם ראשי התיבות של המושג
חיבור נפש וטכנולוגיה. מעניין