המודל העסקי של מערכות ההשפלה הדיגיטליות

ז'רון לניר (Jaron Lanier) בביטוי העוקצני "Bummers" בהתייחסו לענקיות התוכנה אשר התגלגלו למצב שבו הן משפילות אותנו ומדלדלות את כוחנו באופנים שונים. אני בחרתי בביטוי דומה בחריפותו: "מערכות השפּלה". במאמר קודם פירטתי את עשרת המאפיינים למערכות אלה שמנה לניר, ואף הצעתי לכם לקרוא דיווחים על עשרות מחקרים המצביעים על תופעות לוואי מחרידות שמלוות את השימוש ברשתות החברתיות, מחקרים התומכים באפיון של לניר.

אדגיש, לניר מרגיע אותנו שלא מדובר באג'נדה מגמתית המכוּונת לגרום למיליוני המשתמשים להוריד איכות בתקשורת שלהם, להיות עוקצניים ואגרסיביים, להעדיף מסרים שקריים או אידיאולוגיה פוליטית זו או אחרת. במילים שלו הוא מסכם: "הרשתות החברתיות מוטות, לא שמאלה או ימינה, אלא למטה" (בעמ' 20, בספרו הנ"ל). זאת רק דוגמה דרמטית של הטיה של מערכות דיגיטליות הנובעת, בין היתר, מתכונותיהן הבסיסיות. הטיה זו מתגלה בדיעבד מבלי שמתכננים אותה. דאגלס ראשקופף ומרשל מקלוהן היו הראשונים להצביע על הטיות כאלה.

לניר מציע שנבין כיצד הטיה ספציפית זו קרתה. מכיוון שהוא עבד במחיצת מנהיגי הרשתות החברתיות הללו הוא יכול לדווח לנו על התפתחותן ממקור ראשון. הטיה זו לא נוצרה בתכנון מגמתי, אלא מהשתלשלות טרגית ומקרית. כדי להבין השתלשלות זו, עלינו להכיר את ההיסטוריה של הרעיונות של הרשתות החברתיות.

ניצני התרבות הדיגיטלית הנוכחית נבטו בשנות ה-60 בימי ילדי הפרחים. הרעיון של תוכנה חופשית נולד כבר אז כחלק מתפיסת העולם שרווחה בימים הללו בקרב חובבי הטכנולוגיה החדשה. הייתה זו גרסה מערבית וחדשנית של הרעיון המרקסיסטי הישן: רכוש פרטי הוא אֵם כל חטאת וביטולו יביא רק ברכה לעולם. רשתות המחשבים שנבנו במקורן מתוך שיקולים ביטחוניים, ברגע שנמסרו לרשות הציבור, היו כלים שאִפשרו יישום קל ונוח של הרעיון המרקסיסטי הזה. העובדה שהשימוש בתוכנות כמו פייסבוק וגוגל הוא חופשי אינה נובעת אפוא משיקולים עסקיים, אלא ממורשת החשיבה של שנות ה-60.

אבל עם הרעיון של תוכנה חופשית לכול, כמו כמעט בכל חברה מרקסיסטית טיפוסית, צץ ופרח פולחן האישיות גם בעולם הדיגיטלי. ממציאי המחשב הביתי לחובבים היו הראשונים שזכו להערצה. ממציאי תוכנות ומנהליהן היו רשאים לגנוב רעיונות ברשות החוק ולגרוף רווחים אסטרונומיים מניצול השימוש בתוכנות. להמוני המשתמשים ניתנה הרשות להשתמש בתוכנות, אלה ואחרות, בחינם תוך שהם מוותרים על פרי עמלם הנוצר במהלך השימוש הזה. איש לא שם לב לתשומות המוני המשתמשים שנוצלו היטב לשכלול התוכנה. למעשה, כפי שתגובות לביקורת על המערכת המשפילה מעידות, רבים מהללים את העובדה שהמשתמשים מקבלים תוכנה בחינם ומתעלמים כליל מערכה של התרומה של המשתמשים בה להצלחת התוכנה עצמה.

כיצד הובטחו רווחי המערכת והצלחתה? הפתרון שנבחר היה פשוט והתבסס על לקחי השיווק משנות ה-50. הרעיון היה שמצד אחד המשתמשים ירותקו לתוכנה החופשית, שתישאר חופשית, אבל היא תתובל בפרסומות של משווקים שונים שיותאמו היטב לכל משתמש, בהתאם לנטיותיו המתגלות במהלך השימוש. המערכת תדאג לכך שהמשתמשים יבלו את זמנם כשהם מרותקים לתצוגות התוכנה החופשית. מצד שני, המערכת תקבל מהמשווקים תמורה עבור כל נגיעה דיגיטלית בפרסומות של סחורותיהם, פרסומות שהמערכת תציג למשתמשים השבויים בה.

מנהיגי המערכות האלה בחרו לרתק את המשתמשים באמצעות אלגוריתמים לומדים שלמידתם מבוססת על ידע בסיסי וישן ממדעי ההתנהגות, אלגוריתמים שנבדקו עוד בניסיונות הראשונים לפיתוח תוכנות בינה מלאכותית בשנות ה-50. אם כן, ריתוק המשתמשים נעשה בעזרת אלגוריתמים הבודקים את התנהגות המשתמשים מול הפריטים המוצגים להם (אילו פריטים נבחנים על ידי המשתמש/ת במשך זמן ממושך? ואילו פרסומות מביאות אותו/ה ללחיצה עליהן?) אלגוריתמים אלה מארגנים את פלט התוכנה (למשל, ארגון הפריטים בדף הבית שלה, וארגון מערך הפרסומות המוצגות למשתמש) בהתבסס על הבדיקות. הלמידה של האלגוריתמים האלה מתבצעת לפי כללי התניה פשוטים: לכל משתמש מוגדר פרופיל של נטיות אישיות, והוא משתנה בהתאם להצלחה בניבוי התנהגותו של המשתמש מול הצג. זהו רעיון ישן, כאמור, שבא לידי שימוש בתוכנות הבינה המלאכותית הלומדות הראשונות עוד בשנות ה-50.

כך, המשתמשים במערכות אלה הפכו לנבדקים בניסויי ענק ותשומותיהם, ללא גמול, אִפשרו למערכת לשכלל את עצמה, כלכלית, ללא התערבותם של המנהיגים. שכלול המערכות הללו אִפשר למנהיגים להתעשר בהיקף שלא היה כמותו. בעיקרו, זהו המודל העסקי של גוגל, של פייסבוק ושל מערכות השפלה אחרות.

למערכות ההשפלה היו תופעות לוואי שצצו בעקבות יישום המודל הזה. הן לא תוכננו על ידי מנהיגי המערכות. בשנות ה-80 וה-90 לא הייתה כלל מודעות לתופעות הלוואי האלה. אומנם מקלוהן טען כבר ב-1964 שמי שאינו נזהר ואינו מבין את אמצעי התקשורת החדשים, סופו שהם ישתלטו עליו כמו כישוף, אבל איש לא ייחס חשיבות לטענתו, או הבין אותה. כולם היו בטוחים שרעיון התוכנה החופשית ייטיב עם האנושות. וכאשר פותחו הרשתות החברתיות, כולם היו בטוחים שהן תבאנה ברכה למשתמשים בהן.

זוכרים את שיכרון ההתלהבות מ"האביב הערבי"? כרגע, אנחנו נמצאים בשלב שבו התופעות השליליות של הרשתות החברתיות הללו מתפרצות כבולענים הרסניים בכל מיני מקומות. העובדות מצביעות על כך שהתנסות ממושכת בתהליכי התניה גורמת למתנסים בהם להתפרץ, מדי פעם, בהתנהגות הרסנית בלתי-נשלטת.

בכל זאת, פה ושם תמצאו עדויות ברורות לכך שציבור המשתמשים מתאכזב מהרשתות החברתיות. ייתכן מאוד, שכמו מול יצרני הטבק ומול פרסומות ההימורים, אפילו תעלה דרישה שכל מערכת משפילה, אשר הוכחה באופן אמפירי כמזיקה, תפרסם בדף הבית שלה כרזה בולטת, כהאי לישנא: "המומחים לרשתות חברתיות מזהירים: שימוש מרובה בתוכנה הזו עלול לגרום לנזקים רגשיים וחברתיים שונים!".

אחת הדוגמות הברורות לפגם עסקי אפשרי ביישום המודל הקיים של מערכות ההשפלה היא "תוכנת התרגום" של גוגל. אם יפחת היקף תעסוקת המתרגמים המקצועיים בעולם בשל השימוש בתוכנה זו, תרד איכות התרגומים, שכן את התרגום יבצעו המשתמשים הלא-מקצועיים, וכתוצאה מכך איכות הסיכום הסטטיסטי של נתוניהם המגולם כחוכמת המונים ב"תוכנת התרגום" הלומדת לא תעלה. אנו נימצא בצומת הכרעה: לוותר על איכות התרגום המקצועי ולהשתמש בתערובת הקלוקלת העדכנית והתקועה של "תוכנת התרגום", כסמל הקִדמה, או לוותר עליה, ככישלון נוסף של "הבינה המלאכותית", ובמקומה לחזור ולעודד את המתרגמים המקצועיים.

צריך להבין ולזכור שהפגיעה בפרטיות היא הפגיעה הקלושה ביותר בשל שימוש במערכות השפלה. כמו כן, אי-אפשר למגר את תופעות הלוואי המחרידות של השימוש במערכות ההשפלה מבלי לערוך שינויים מהותיים בגורמים של תופעות אלה. אי-אפשר לנצל את הצדדים החיוביים של מערכות ההשפלה מבלי להיחשף לפגיעה מהצדדים השליליים שלהן. תיקונים שטחיים של תוכנות מורכבות הם מסוכנים מאוד. ראו מה קרה לאחרונה כאשר מערכת השפלה אחת ניסתה לבצע תיקון באבטחת נתוני המערכת. המערכת נפרצה וחשבונות של מיליוני משתמשים נפגעו. למרות, ואולי דווקא משום שתופעות הלוואי הופיעו ללא תכנון מראש, היעלמותן איננה מובטחת ללא פעילות תיקון יסודית.

אפשר לחשוף את תופעות הלוואי הללו ואת גורמיהן, אך בנוסף, צריך וכדאי לעודד את מנהיגי המונופולים הדיגיטליים לשנות את המודל העסקי שלהם מן היסוד. כך מציעים לניר ועמיתיו.

היות והמערכת הקיימת מסוגלת כבר לעקוב אחרי כל פעולה של המשתמש, לא יהיה זה שינוי טכני מורכב מדי לאפשר למערכת לומדת להגדיר את הגמול המגיע לכל משתמש לפי תשומותיו האקטואליות ולפי ערכן, הן למערכת עצמה והן לכלל המשתמשים. פעולה שכזו, טוען לניר, תעודד את המשתמשים גם מכיוון שהיא תחזיר להם את כבודם האישי הנרמס. בדרך זו, השימוש בתוכנה יהיה דומה לשימוש בכלי נגינה יותר מאשר לשימוש במכונת כתיבה. בצורה כזו תתחולל מהפכה דיגיטלית אמיתית: הנתונים יהפכו ממשאבים המהווים רכוש של בעלי המערכות, לפרי עמל בר-תגמול ויוכרו כיצירה של המשתמשים. המשתמשים יתייחסו בכבוד אל הנתונים שהם מספקים והמשיכה לשימוש בנתונים מזויפים תרד. מערכת שבה למשתמשים יהיה ערך ממשי, תהיה הומנית יותר, בדיוק כפי שבמאה ה-20 בתי חרושת שהתחדשו במערב נהיו הומניים יותר.

רבים מצדיקים את ביטולם של תחומי עיסוק בשל פיתוחה של תוכנה חדשה, בטענה שייווצרו תחומי עיסוק חדשים, ולכן המאזן החיובי של הקִדמה הכלכלית יישמר. כך אומנם קרה בעידן התעשייה. הצדקה זו מתעלמת מהעובדה שהמצאות עידן התעשייה אינן דומות להמצאות התוכנות "החכמות החדשות". בעידן התעשייה לא ניסו לחקות התנהגות של בעלי מקצוע באמצעות הכלים המומצאים. מנוע הקיטור איננו חיקוי של בהמות העבודה. גם איכות השימוש בהמצאות הללו לא הייתה תלויה בהתנהגות של אלה הפועלים ברקע של ההמצאות. בבינה המלאכותית העדכנית, הדורסת מקצועות על ידי חיקויַם, לא טמונה האפשרות ליצירה של תחומי עיסוק חדשים.

בניגוד לשמירה על המודל העסקי הקיים, אם המערכות הנעלות תאפשרנה מתן תגמול הוגן ליוצרי הנתונים, החיוניים כל כך להצלחתן העסקית, אפשר יהיה לקדם מקצועות חדשים שיתמקדו באיכות הנתונים, ובהמשך יתמקדו גם בפיתוח איכות המערכות עצמן מעבר להשגת נקודות קיצון מקומיות. בניגוד לסברה המקובלת, תוכנות בינה מלאכותית לומדות אינן מסוגלות להשתכלל בעצמן מעבר להשגת נקודות קיצון מקומיות שבהן הן נתקעות. באבולוציה נמצא לכך פתרון בעזרת מוטציות. מוטציה היא אירוע שבו מסלול ההתפתחות מחושב מחדש על ידי קפיצה אקראית. כדי להבטיח את עתיד הצלחת האלגוריתמים שלהם, על מנהיגי המערכות האלה לחשב מסלול מחדש, ואולי גם לפתח אסטרטגיה נבונה לחישוב מסלולים מחדש. כרגע לא ברור כלל שהדבר אפשרי ללא מעורבות רציפה של בני אדם.