היא לא בשר ודם, אבל היא עלתה לשידור

מבחנים משפטיים של ישויות בינה מלאכותית
פטיש עץ
צילום: Chris Potter Flickr. wikimedia commons

דמיינו לעצמכם: אתם נוהגים, שומעים רדיו, קול נעים אומר לכם ״צהריים טובים״, מספר בדיחה קטנה, מציע שיר, נשמע אנושי לגמרי. רק שאף בן אדם לא נמצא שם. ובכן, זה כבר לא דמיון. רדיו תל אביב 102FM העלו לאוויר את "אודליה AI", שדרנית בינה מלאכותית שמובילה רצועה יומית בין 14:00 ל-16:00, והיא גם מצהירה על כך בשקיפות.

העובדה שאינטראקציה מתבצעת מול בינה מלאכותית אכן מחייבת גילוי כן מהבחינה האתית ונראה שגם מהבחינה המשפטית. בישראל אין עדיין חוק AI ייעודי, אבל הרשות להגנת הפרטיות כבר סימנה כיוון ופרסמה טיוטת הנחיות בנושא שקיפות וגילוי, אשר מציינת שהעובדה שהגורם שמקיים אינטראקציה ואוסף מידע אינו בן אנוש אלא מערכת אוטומטית מבוססת בינה מלאכותית (בוט), היא רכיב חשוב בהסכמה מדעת, ו״יש ליידע״ על כך כאשר הדבר עשוי להשפיע מהותית על ההסכמה. חובת הגילוי יכולה להיגזר גם מסעיף 2 לחוק הגנת הצרכן, האוסר על הטעיה צרכנית. אודליה AI, כאמור, פועלת בשקיפות.

אולם גילוי ושקיפות אינם תרופת קסם, וגם כשיש ידיעה כי ביטוי הוא "ביטוי מכונה" המופק על ידי בינה מלאכותית, אנשים עדיין יכולים להאמין לו ולהסתמך עליו ואף לפתח קשרים עם ישות בינה מלאכותית. תראו מה כבר קרה בזירה אחרת: ״ליטל שוהם״, משפיענית רשת שהיא יצירת בינה מלאכותית המקבלת קמפיינים בישראל. היוצר שלה פועל בשקיפות, מציין בעמוד הביו את היותה פרי בינה מלאכותית ועובדה זו מתויגת בכל פוסט. למרות זאת, אנשים מתחילים איתה, פונים אליה רגשית ומתייחסים אליה כאל אישה אמיתית. הידיעה לא מנטרלת את ההשפעה. מחקרים על קולות סינתטיים מצאו שקול שנוצר בבינה מלאכותית עשוי להשפיע לטובה על תפיסת ״אנושיות״ של מותג, והשפעות כאלו עשויות להימשך גם אם היוצרים מגלים מראש שמדובר בקול AI. המוח האנושי שלנו לא באמת מבדיל בין כריזמה אנושית לכריזמה אלגוריתמית. אם זה נשמע אמין, זה משפיע. ובמקום שיש השפעה, יש חשיפה משפטית.

כאן הדברים מסתבכים עבור הקהילה המשפטית והטכנולוגית: מה קורה אם שדרנית מבוססת בינה מלאכותית פולטת בשידור חי דברי דיבה על איש ציבור, או נותנת עצה רפואית מסוכנת על סמך נתונים שגויים? את מי תובעים? האם האחריות מוטלת על מנהל התחנה? על חברת הפיתוח שאימנה את המודל? או אולי על המהנדסים מפתחי התוכנה שלא סיננו את הטקסט ולא מנעו פלטים מסוג זה? חברות לא יכולות להשתמש בטענה כי הבינה המלאכותית היא אוטונומית ולכן אין אחריות. הרי אם יצרו מכונה שיודעת לייצר שיח משכנע אבל לא התקינו לה מעקות בטיחות (Guardrails) שימנעו ממנה להוציא דיבה, האחריות צריכה לעבור מהמילה שנאמרה לקוד שנכתב.

ספרות בולטת תומכת בטענה כי תוצר הבינה המלאכותית, במיוחד כשהוא מובנה במוצר מסחרי כמו שידור רדיו (שמטרתו השפעה), צריך להיבחן תחת דיני הנזיקין והמוקד אינו לשון הרע. מוצר ה-AI אינו אדם, והפלט שלו הוא תוצר של תכנון. אם המערכת תוכננה באופן שיגרום לדיבה או לנזק, גילוי נאות לא יגן על המפעיל. הרשלנות טמונה באופן שבו המערכת מעוצבת לתקשר.

בישראל פקודת הנזיקין עדיין לא הותאמה לעידן שבו המעוול הוא אלגוריתם, אבל בתי המשפט יצטרכו בקרוב להחליט אם מדובר ברשלנות בעיצוב או אפילו להטיל נטלי אחריות מוגברים לפי דוקטרינה של "דבר מסוכן" שבעליו חב חובת זהירות מוגברת.

ישויות תקשורת מבוססות בינה מלאכותית, כמו שדרניות ומשפיעניות רשת, הן לא רק דמויות וירטואליות חביבות, הן מבחן לדיני הנזיקין בעידן הבינה המלאכותית הגנרטיבית. מי שלא יטמיע מנגנוני בטיחות (Safety by Design) היום, ימצא את עצמו נתבע על רשלנות מחר, וייתכן שאף יידרש לעמוד בנטלי אחריות מוגברים.

המאמר מוקדש לזכרו של אבא שלי, שאול לביא, שהיה לי כל העולם כולו. מותו הפתאומי, הטרגי והבלתי נתפס הותיר חלל עצום שלא יתמלא לעולם ואין מילים שיבטאו את עומק הכאב והגעגוע. טוב ליבו, חוכמתו ורוחו ייזכרו לנצח בליבנו.

Facebook
Twitter
LinkedIn
WhatsApp
Email

17 תגובות

  1. מאמר מעניין שווה קריאה בתי המשפט בישראל ובכללי בעולם יצטרכו לתת את הדעת על עוולות של בינה מלאכותית מי מתווך התוכן מי האחראי על התוכן שמפורסם בשידור או רשת חברתית
    זה נשמע נורא אם אדם היה מאמין לעצות רפואיות של בינה מלאכותית במקום איש מקצוע מוסמך וניזוק מכך
    וכן לשון הרע ורכילות שמועברים ברשת על ידי בוטים מי האחראי לכך

  2. מאמר מרתק שיביא טלטלה.חלוץ בנושא.לא יכול לשער לאן יכול להתפתח.בעבר הרחוק ילדים נקשרו אמוציאלית לתוכנת סירי.עכשיו בטוח שיהיו השלכות לפיתוח היכרויות ועוד המון תחומים .כמובן שכדאי שיהיה פיקוח

  3. המאמר הז חשוב כי הוא מראה שהופעת ה AI במרחב הציבורי היא לא רק חידוש טכנולוגי אלא שינוי שמייצר סיכונים והשפעות אמיתיות על אנשים, גם כשיש גילוי ושקיפות. הוא מחדד נקודה מעשית לקובעי מדיניות, משפטנים וחברות:
    האחריות לנזקים לא “נעלמת” בגלל אוטונומיה של AI ה-, והיא עשויה להיבחן כרשלנות בתכנון ובהטמעת מנגנוני בטיחות (Safety by Design). בכך הוא מציב מסגרת ברורה להתמודדות עם מקרים עתידיים ומתריע שחוסר היערכות היום עלול להפוך לתביעות מחר.

  4. An eye-opening piece by Dr. Michal Lavi. As AI entities like 'Odelia AI' become part of our daily lives, the legal questions surrounding liability and 'Safety by Design' are more critical than ever. It's fascinating to see how current tort law is being challenged by algorithmic behavior, and the call for transparency is just the beginning. A must-read for anyone interested in the intersection of law and technology

  5. Izuzetno zanimljiva analiza dr Mihal Lavi o pravnim izazovima koje donosi veštačka inteligencija. Pitanje odgovornosti za postupke AI entiteta, poput 'Odelije AI', otvara ključne debate o bezbednosti dizajna i neophodnosti prilagođavanja zakona o odšteti digitalnom dobu. Transparentnost je važna, ali zakonski okvir mora pružiti jasne odgovore na pitanje – ko je odgovoran kada algoritam pogreši

  6. Sadržajan i inspirativan tekst dr Lavi, ali otvara i neka kritična pitanja koja zahtevaju dalja istraživanja. Iako se autorka fokusira na odgovornost dizajnera i operatera, postavlja se pitanje: da li je stroga odgovornost (strict liability) dovoljna ili nam je potreban potpuno novi pravni subjektivitet za AI? Takođe, bilo bi dragoceno istražiti kako se koncept „poverenja javnosti“ menja kada granica između ljudskog i algoritamskog govora postane potpuno nejasna. Da li bi samo obaveštenje o AI poreklu bilo dovoljno u kriznim situacijama? Nadam se nastavku ovog istraživanja koji bi dublje ispitao granicu između slobode govora mašine i zaštite ljudskog dostojanstva.

  7. מעניין, למדתי משהו חדש…ונראה שהבינה המלאכותית תחליף הרבה מקצועות אבל כמובן התרחבות הבינה המלאכותית מעוררת שאלות של אחריות.

  8. מה עוד ימציאו? שירות לקוחות בינה מלאכותית כבר יש , שדרנית רדיו כבר יש…מד"ב של אתמול הוא התממשות העתיד

    1. המאמר של ד"ר מיכל לביא הוא חדשני וחשוב ביותר! שווה קריאה!!
      מעלה שאלות שחשוב לתת עליהן את הדעת מבחינת הופעת כלים ופיצ'רים חדשים של בינה מלאכותית והשלכות של התוצרים על התנהגות בננ אדם, רגשות של שומעי הרדיו או קוראי בלוג שנעשה באמצעות בינה מלאכותית מבחינת אמינות, מקצועיות, רגישות מול מענה טכני ועוד וכאשר תוצר כזה מדבר על איש ציבור ומוציא שם רע או ממציא נרטיב שגוי ממה שקרה במציאות זה עלול להוביל למצב בלתי הפיך על חיי אדם וצריך לחשוב איך מונעים מהשלכות הרות גורל לקרות באמצעות פיקוח על התוכן ולא העיקר שיש אוטומציות חשוב עין אנושית שתבדוק לפני פרסום.
      תודה על ההזדמנות ללמוד ממך!

  9. העולם צריך להיערך לעידן קשה שרק יחמיר, ושיהיה מאופיין בדברים הבאים:
    הרבה מאוד דברים לכאורה אנושיים יעשו על ידי הבינה המלאכותית
    הפייק יהווה את עיקר התקשורת

  10. הבינה המלאכותית היא נושא שהמדינה חייבת להיערך אליו. אתם יודעים מי בממשלה ממונה על הנושא שישנה את העולם?

  11. ממש מפחיד. הרי אי אפשר יהיה להשתלט על אנשים עם כוונות רעות מארצות אחרות. והרי כל האינטרנט בעולם מחובר. ואפשר לפעול גם נגד אנשים ואינטרסים בארצות אחרות.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של ישראל

חדר כושר למוח

דרכים לשיפור הזיכרון והקוגניציה

דילוג לתוכן