דמיינו שאתם מנהלים ויכוח פוליטי ברשת, משתפים חוויה אישית, מתלבטים, מתנגדים, אפילו מתחילים לזוז מעט מעמדתכם המקורית. מולכם מגיב אדם שנשמע אמפתי, משכנע. אולי נפגעת תקיפה מינית, יועץ טראומה או מישהי שמציגה עצמה כחברת קהילה מסוימת ומספרת מדוע איבדה אמון בתנועה שאמורה לייצג אותה. רק שבסוף מתברר: לא היה שם אדם. היה שם בוט.
זה מה שהתגלה בקהילה ב"רדיט", זירה מוכרת לוויכוחים ציבוריים. לפי הדיווחים, חוקרים מאוניברסיטת ציריך הפעילו ניסוי חשאי שנמשך חודשים ובו חשבונות AI פרסמו יותר מ-1,700 תגובות בפורום. חלק מהבוטים התחזו לדמויות בעלות מטען רגשי וחברתי מובהק, והתגובות הותאמו למשתמשים לפי ניתוח של היסטוריית פעילותם. הניסוי בוצע ללא ידיעת והסכמת המשתמשים וללא אישור הקהילה, ובכך חצה את גבולות ההסכמה המחקרית. מעבר להפרה של כללי קהילה, זו המחשה של הכוח החדש של בינה מלאכותית – היא עוברת מיצירת תוכן להנדסת תודעה, לומדת עלייך, מבינה מה מפחיד או מכעיס אותך ואז מדברת אלייך כמו אדם אמיתי. השיחה נראית טבעית, ההשפעה כבר מתוכננת.
כאן מתחילה הבעיה המשפטית. האם אפשר להצדיק ניסוי כזה בשם המחקר? האם "עניין ציבורי" בבדיקת כוח השכנוע של AI מתיר התחזות, פרופיילינג ושימוש בזהויות רגישות כדי להזיז עמדות? ומה ההשלכות של התחזות כאמור ככלל? כאשר בוט מתחזה לקורבן, למומחית או לחבר קהילה, הוא לא רק מציג טיעון. הוא מייצר אמון כוזב. כפי שכתב לאחרונה פרופ' ג׳ק בלקין במאמרו Technology and Constitutional Rot: הסכנה רחבה הרבה יותר מתוכן כוזב. כשה-AI מתחיל לעצב את המרחב שבו אנחנו מתווכחים ומגבשים עמדה, הוא נוגע גם באמון שעליו הדמוקרטיה נשענת. הבעיה בבוט מתחזה היא לא רק שנאמין לו, אלא שאחר כך נפסיק להאמין גם לאנשים אמיתיים.
הניסוי ברדיט אינו רק סיפור על חוקרים שחצו גבול אתי. הוא תצוגת תכלית של מה שעלול לקרות במערכות בחירות, בקבוצות מחאה, בקהילות מקצועיות ובשיח ציבורי רגיש. המשפט רגיל לחשוב במונחים של פרסומת, תעמולה, חשבון מזויף או פייק ניוז. אבל כאן מדובר במשהו אחר: סוכנים אוטונומיים שמנהלים שיחות אישיות, מתחזים לבני אדם, מפעילים פרופיילינג ומייצרים השפעה מדורגת. זהו אזור חיכוך בין דיני פרטיות, דיני בחירות, אתיקה מחקרית, תנאי שימוש של פלטפורמות ואחריות טכנולוגית.
הדיון הזה כבר אינו תיאורטי והוא חשוב בעת הזו לקראת בחירות. בישראל עלתה לאחרונה הצעת חוק המבקשת להתמודד עם אזורי הסיכון האלה: הצעת חוק הבחירות (דרכי תעמולה) (תיקון – תעמולה דיגיטלית, תעמולה מבוססת בינה מלאכותית והחמרת ענישה), התשפ"ו–2026,. ההצעה קובעת כי מודעת בחירות שתוכנה נוצר או שונה באופן מהותי באמצעות מערכת בינה מלאכותית, ועלולה לגרום לאדם סביר לחשוב שלא כך נעשה, תידרש לשאת סימון ברור ובולט. חשוב מכך לענייננו: ההצעה מבקשת לאסור פרסום מודעת בחירות באמצעות "פעילות מתואמת לא אותנטית" ברשתות חברתיות. ההגדרה כוללת פעילות מתואמת בין שני חשבונות לפחות שמגבירה או עלולה להגביר הפצת תוכן תוך הסתרה, לרבות התחזות לגבי זהות המפרסם, מיקומו, מטרתו או מהות החשבון. היא מדגישה שאין חשיבות אם החשבונות אמיתיים או מזויפים ואם הפעילות נעשתה בידי אדם או אוטומטית.
ההצעה אינה מתערבת בתוכן המסר הפוליטי, אלא באופן הפצתו, להבטחת הליך בחירות הוגן ושוויוני. בדמוקרטיה מותר לשכנע, לפרסם, לנהל קמפיין חד ואפילו אגרסיבי. אבל אסור שהבוחר יחשוב שהוא מדבר עם אזרח, כשבפועל הוא מדבר עם מערך אלגוריתמי שמתחזה לקהילה.
זהו המעבר שיש להבין: המשפט כבר לא יכול להסתפק בשאלה אם הפרסום נכון או שקרי. לפעמים הפגיעה אינה בתוכן, אלא בזהות הדובר, במנגנון ההפצה ובמצג-שווא של אותנטיות. כשהציבור חושב שהוא רואה דיון טבעי, ובפועל נחשף למבצע השפעה מתוזמר, הסכנה אינה רק בפייק-ניוז, אלא בפייק של השיח הדמוקרטי עצמו.
הלקח חד: חברה דמוקרטית אינה יכולה להסתפק בגילוי בדיעבד. במרחבים שבהם אנשים מגבשים עמדה, צריך קו גבול בין שכנוע לגיטימי להתחזות אלגוריתמית. כשאינך יודע אם מולך אדם או מודל שתוכנן ללחוץ על מנגנוני ההגנה הרגשיים שלך, זה כבר לא ויכוח חופשי. זו הנדסת תודעה.
המאמר מוקדש לזכרו של אבא שלי, שאול לביא, שהיה לי כל העולם כולו. מותו הפתאומי, הטרגי והבלתי נתפס הותיר חלל עצום שלא יתמלא לעולם ואין מילים שיבטאו את עומק הכאב והגעגוע. טוב ליבו, חוכמתו ורוחו ייזכרו לנצח בליבנו.
17 תגובות
ממש מדהים ומדאיג לאן אנחנו דוהרים קדימה
מאמר חשוב ומעורר מחשבה. החיבור בין התחזות אלגוריתמית, מניפולציה של אמון והסכנה לשיח הדמוקרטי מחדד היטב עד כמה האתגר של AI חורג הרבה מעבר לפייק ניוז.
פוסט חשוב ומדוייק, שממחיש היטב עד כמה AI מטשטש את הגבול בן שיח אמיתי למניפולציה
מאמר מעניין מאוד וחשוב.
מאמר חשוב ומעורר מחשבה. הנקודה המטרידה ביותר בעיניי היא שכבר לא מדובר רק בפייק ניוז, אלא ביכולת לזייף את עצם האינטראקציה האנושית ואת תחושת האותנטיות של השיח. כשהצד השני בוויכוח הוא למעשה מערכת שמכירה את נקודות החולשה שלנו ומתאימה אליהן את המסר, הגבול בין שכנוע למניפולציה הופך דק מאוד.
מאמר חשוב מאוד, ובמיוחד בתקופה שבה AI הופך לחלק בלתי נפרד מהשיח ברשת. לצד היתרונות העצומים של הטכנולוגיה, הניסוי הזה מראה עד כמה חיוני להציב גבולות ברורים של שקיפות, הסכמה ואחריות. תודה על מאמר שמעלה סוגיה שאנחנו כנראה רק בתחילת הדרך בהבנת ההשלכות שלה.
מאמר מרתק ורלוונטי מאוד, במיוחד לקראת תקופות בחירות. בעיניי, הדרישה לשקיפות לגבי זהות הדובר והאם מדובר בבוט אינה מגבילה את חופש הביטוי להפך, היא מאפשרת לאנשים לדעת מול מי הם עומדים ולקבל החלטות באופן חופשי ומודע. הבעיה אינה עצם השימוש ב-AI, אלא ההתחזות והסתרת מנגנון ההשפעה.
מיכל
בהמשך לשיחותנו על AGI ועל כינון ופיתוח אסטרטגיה בעידן של בינה יוצרת
מה שכתבת , זה ניתוח מדויק של שינוי הפרדיגמה המשפטית והציבורית.
הניסוי מאוניברסיטת ציריך ממחיש כי בעידן הבינה המלאכותית היוצרת, כדבריו של מקלוהן ,המדיום הוא המסר במובנו העמוק ביותר. הפגיעה בדמוקרטיה אינה נובעת מאיכות הטיעון או מהשאלה אם התוכן נכון, אלא מעצם המבנה של הפלטפורמה המאפשרת התחזות אינטראקטיבית ופרסונלית לקהילה.
כבר היום כשאנחנו לא מסכימים עם גורמים מסוימים ברשת, אם זה בגלל דעות ביביסטיות או אם זה בגלל דעות אנטישמיות רדיקליות אנחנו ישר אומרים "אה זה בטח בוט זה בטח בוט איראני או משהו"
המדיום אינו ניטרלי, אלא הופך בעצמו לכלי המשפיע על תפיסת המציאות של האזרח. אין כבר סתם שיח
ההתמקדות של הצעת החוק בפעילות מתואמת לא אותנטית ובחובת סימון משקפת דווקא פוטנציאל להבנה רגולטורית בוגרת. המשפט מבין כעת כי ניסיון לברור אמיתות של תכנים פוליטיים מוביל למדרון חלקלק של פגיעה בחופש הביטוי, בעוד שהגנה על שלמות תהליך התקשורת ועל זיהוי הדובר היא תנאי יסוד לאוטונומיה של הבוחר.
ההשלכה הרחבה של ניסויים כאלה היא שחיקה מערכתית של האמון הבין-אישי. אם לא נקבע גבולות ברורים בחקיקה ובאכיפה כעת, המחיר יהיה אובדן היכולת לנהל שיח אזרחי משותף. יישר כוח על כתיבה חדה ואקטואלית כתמיד.
כל מאמר שלך מקדם אותי בהבנת האתגרים שמביאה ה-Ai
ד"ר מיכל לביא תודה על שיתוף במאמר החשוב הפרקטי הרלוונטי והאקוטאלי לעידן שבו כבר קשה לתת אמון באנשים מתי זה אותנטי ומתי השתמשו בבינה מלאכותית לתקשורת בין בני אדם לאו דווקא מקצועית ומעבר לכך שבדברים מקצועיים אין אבחנה ויש סיכונים לא מעטים בפייק ניוז שיש הנדסת תודעה באמצעות ai אלגוריתמים ובוטים שמאמנים אותם ומזייפים לפעמים.
חשוב ליצור תקנות לאכיפה בתחום לצד חופש הביטוי שיהיה קו מנחה גבולות ברורים עד איפה נגיע עם השימוש בבינה מלאכותית שלא לפגוע ולהזיק
מאמר מעניין וחשוב ביותר.
יישר כח לד"ר מיכל לביא על המאמר החשוב ופוקח העיניים לשים לב אם זיהוי הדובר נכון או שגוי ואם זה אמרתי או בדוי עד כמה שניתן לשים לב מראש.
את קונה לך מעמד מוביל בנושא החשוב של הקשר בין עולם החוק לעולם הבינה המלאכותית שהולך ומתעצם
מקווה שהחלטות ממשלה לא ימסרו לידי Ai
לדעתכם ההתראה של כמה מובילים בתחום הבינה המלאכותית כנגד מה שעלול לקרות נעשתה בתום לב?
מי שיתמצא מאוד בבינה מלאכותית וההיבטים שלה, כמוך
יהיה מבוקש בעתיד הקרוב.
עתיד שחור מחכה לנו.