גלגוליה של תוכנת זיהוי הרגשות

דרמה בחמש מערכות: כשלתוכנה יש חסרונות ומעלות
תמונתו של ישפי
פרופסור יהושפט גבעון

את הנתונים על הדרמה הזאת לקחתי מספרה של שושנה זובוף "עידן הקפיטליזם של המעקב: הקרב על עתיד אנושי בחזית החדשה של העוצמה" (2019, פרק 8, סעיף III). במאמר קודם תיארתי את הקפיטליזם החדש הזה, ששגשוגו צריך להחריד אותנו. והנה דוגמה נוספת לתהליך המגולם בפיתוח הכלכלה הדיגיטלית, והפעם הוא מתחיל בפיתוח של תוכנת בינה מלאכותית.

מערכה ראשונה: הרעיון

רוזלינד פיקארד, ממעבדת המדיה של MIT, הייתה מדענית המחשבים הראשונה שיישמה את תיאוריית הבעת הרגשות של פאול אקמן מאוניברסיטת קליפורניה בסן פרנסיסקו. היא יישמה אותה לבניית תוכנה לזיהוי רגשות על סמך ניתוח הבעות פנים זעירות. היא קראה לתחום החדש "חישוב אָפקטיבי" ובשנת 1997 פרסמה ספר בשם זה.

מערכה שנייה: יישומיו האפשריים

פיקארד האמינה רק בתועלת שתוכנה כזו יכולה להביא למשתמשים בה. למשל, סטודנט המתכונן לראיון קבלה יכול להתאמן ולזהות בעזרת התוכנה סימנים התנהגותיים זעירים שעלולים להכשיל אותו בריאיון. בחינוך המיוחד תוכנה כזאת יכולה לעזור לילדים ברצף האוטיסטי לפתח מיומנויות רגשיות כמיומנויות הבעה, ובחינוך הרגיל תוכנה כזו יכולה לאתר מידית סימנים לקשיי למידה של תלמידים במהלך הלימודים. בקיצור, לפי תפיסתה של פיקארד, התוכנה לזיהוי רגשות מיועדת למען המשתמשים הפרטיים, ולא רק כדי לספק נתונים על רגשותיהם.

עוד בשנת 1997 הכירה פיקארד בצורך בפרטיות ובשליטה במי שרשאי להשיג נתונים רגשיים. היא סיימה את ספרה בהצהרות על חשיבותה של הימנעות משימוש בתוכנה למטרות מניפולציה של רגשות. כמו רבים אחרים, בסיכום, היא טענה שלכל טכנולוגיה יש מעלות וחסרונות, אבל הרגיעה אותנו באומרה שקל לבנות הגנה מפני חסרונות התוכנה.

מערכה שלישית: סטארט-אפ

בשנת 2009, פיקארד ותלמידת המחקר שלה ראנה אל-קאליובי הקימו חברה ושמה "אָפקטיבה", שמטרתה ניצול העניין ההולך וגובר בתוכנות לזיהוי רגשות. החזון המקורי של מקימות החברה היה ליישם את מחקריהן בזיהוי אוטומטי של רגשות בתחום הרפואה והסיעוד. ההתעניינות בחברה הייתה עצומה, בעיקר מצד חברות שיווק ופירסום.

מערכה רביעית: שידוד מערכות

בשנת 2012 הודחה רוזלינד פיקארד מהנהלת אָפקטיבה, ובשנת 2016, מנכ"לית החברה אל-קאליובי הגדירה את תחום העיסוק של החברה "בינה מלאכותית של רגשות", והצהירה שזה יהיה "קו החזית הבא של הבינה המלאכותית". בשנת 2016 הרצתה פיקארד בגרמניה הרצאה שכותרתה הייתה "לקראת מכונות שמתנגדות ליוצרן" ובה חזרה ביתר חריפות על הדאגות שביטאה בסוף ספרה.

מערכת חמישית: ההטיות משתלטות

במערכה זו מתרחש מעבר מהעמדה "אנו יודעים מה הרגשתך" אל העמדה "אנו יכולים לקבוע את הרגשתך". כשהם יודעים על רגשותיך, פרטיותך נפגעת. כאשר הם מלמדים את התוכנות שלהם כיצד להשפיע על רגשותיך, החופש שלך נפגע. עשרות חברות רוכשות את התוכנה ומיישמות אותה כדי להגדיל את רווחיהן. אבל לנו זה לא מזיז, כי כל אחד יודע שלכל טכנולוגיה יש מעלות ויש חסרונות. כך, התריע ז'רון לניר, בהשפעת האופי הרובוטי של הכלים הדיגיטליים, החסרונות גוברים על המעלות.

לסיכום, כאשר הקפיטליזם של המעקב התחיל לשגשג, חזרה שוב ושוב התבנית של "מאזן מעלות וחסרונות התוכנה". ההגנה מפני חסרונות התוכנה תמיד מפגרת אחרי פיתוח "הטכנולוגיה" עם שגשוג הקפיטליזם החדש. למשל, בשנת 2014 הגישה חברת פייסבוק בקשה לפטנט ב"זיהוי רגשות" בדיוק באותם אפיקים שפיקארד הזהירה אותנו מפניהם בסוף ספרה, שבע שנים קודם לכן.

אנו מומחים בחוסר יכולת להתמודד עם תקלות הנגרמות משימוש קלוקל בהמצאותינו. במקום לחקור אותן היטב אנו אצים לשווק את מעלותיהן. עלינו להבין שבלי הבנה של הכלים החדשים אנו ניגרר אחרי הפיתויים שלהם כמו תחת כישוף. רעיון זה נוסח לראשונה על ידי מרשל מקלוהן עוד בשנת 1964. הסתכלו מסביבכם והתבוננו בסובבים אתכם והחליטו.

שיתוף ב facebook
Facebook
שיתוף ב twitter
Twitter
שיתוף ב linkedin
LinkedIn
שיתוף ב whatsapp
WhatsApp
שיתוף ב email
Email

7 תגובות

    1. הבעיה היא ההבחנה בין התועלת למשווקים עם חרוזים לילידים ובין הנזק לחופש הבחירה שלנו.
      כבר כמה שנים מתריעים עובדי עמק הסיליקון לשעבר על חומרת הנזק שנגרם מיצירותיהם. הם מכים על חטא, אבל כל המוקסמים מהתועלת שמתקבלת משימוש במכשירים הממכרים מתעלמים מהם. מה הם יכולים להבין?

    1. ותודה על שטרחת ליידע אותי. אבל גם כאשר אתה לא מבין דבר-מה, שאל ואנסה להבהיר את דברי.

  1. ילכו וישתכללו ויגיעו לרמה גבוהה. יהיו כאלה שינצלו את התוכנות האלה כדי לפתור בעיות של אנשים ולהמודד עם תופעות. ויהיו כמובן כאלה שינצלו את התוכנות לרעה. לטובת אינטרסים צרים.

  2. ואותנו מוליכים שולל. כאשר הגורמים שרוצים לנצל אותן לרעה מסוגלים להשקיע בהן הון רב, השימושים הטובים יאבדו גובה ולשימושים הרעים תהיה עוצמה רבה יותר. כי מדובר לא רק בשימושים אלא גם בפיתוחים של התוכנה. לכן, המאמינים שיש איזון בין יתרונות לחסרונות אינם מבינים לאן הרוח נושבת ולאן התוכנות נוטות כי הן תוכנות. אבל לשם כך צריך להבין מה זאת תוכנה, כיצד היא פועלת, ומה הן נטיות הלב של מפתחיה – ובעיקר, מה עושים בוגרי מדעי ההתנהגות בעמק הסיליקון כדי לקדם את השפעת התוכנה על המשתמשים בה.

כתיבת תגובה

האימייל לא יוצג באתר.

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של רות

צדק לימודי

כיצד ניתן לצמצם פערים ולדאוג לשוויון במערכת החינוך