היא הופיעה על המסך. פנים, קול, תנועה, מבט. לכאורה עדה. לכאורה ראיה. לכאורה אמת. אבל משהו היה לא נכון. הפנים כמעט לא זזו, התנועות חזרו על עצמן, הקול נשמע שטוח מדי. ואז התברר מה שבתי משפט יצטרכו להתרגל אליו מהר: זו לא הייתה עדות. זו הייתה הדמיה.
בפרשת Mendones v. Cushman & Wakefield בקליפורניה, השופטת ויקטוריה קולקובסקי זיהתה שסרטוני עדות שהוגשו כראיות אותנטיות הם למעשה תוצרי בינה מלאכותית. המרכז הלאומי לבתי משפט בארצות הברית תיאר את המקרה כאחד המקרים הראשונים שבהם דיפ-פייק הוגש כראיה אמיתית וזוהה בבית המשפט ככזה. האזהרה ברורה: זיוף ראיות אינו חדש, אבל מעולם לא היה קל, זול ונגיש כל כך לייצר תמונות, אודיו ווידאו משכנעים.
וזו הנקודה שמטלטלת את דיני הראיות. המשפט יודע להתמודד עם שקרנים. הוא מכיר עדים לא אמינים, מסמכים מזויפים, תמונות ערוכות. אבל בינה מלאכותית משנה את כלכלת השקר. היא מורידה את מחיר הזיוף כמעט לאפס, מקצרת את זמן הייצור לדקות, ומעניקה גם למי שאינו מומחה יכולת לייצר מצג שנראה כמו מציאות. בעבר שקר ראייתי דרש מאמץ. היום הוא עלול להיווצר בפרומפט.
אבל הסכנה העמוקה יותר איננה רק שהשקר ייראה אמיתי. הסכנה היא שהאמת תתחיל להיראות חשודה. כאן נכנס המושג החשוב "דיבידנד השקרן". המשמעות פשוטה ומטרידה: ככל שהציבור מבין שדיפ-פייקים יכולים להיות משכנעים, כך קל יותר לשקרנים שנתפסו בקלקלתם לטעון, "זה לא אני, זה זיוף בינה מלאכותית. היום אפשר לזייף הכול."
במילים אחרות, הדיפ-פייק לא רק מייצר שקרים. הוא מייצר מקלט לשקרנים. הוא מאפשר למי שנתפס בקולו, בפניו או במעשיו להפוך את הדיון מהשאלה "מה קרה?" לשאלה "האם בכלל אפשר לדעת מה קרה?". עד היום התרגלנו לחשוב על דיפ-פייקים בעיקר כאיום על בחירות ודמוקרטיה, או ככלי להונאות פיננסיות ממוקדות שבהן מתחזים בקול ובפנים למנהלים, בנקאים או בני משפחה כדי לגרום להעברת כספים. אך אחרי הבחירות והבנקים הדיפ-פייק נכנס לאולם המשפט. במרחב הציבורי זה מסוכן לדמוקרטיה. כשההונאה ממוקדת היא מציבה סיכון כלכלי וסיכון לשווקים, באולם המשפט הסכנה היא לצדק.
התופעה כבר קיבלה שם משלה: הגנת הדיפ-פייק. הטענה אינה בהכרח שהראיה מזויפת, אלא שאולי היא מזויפת – וה"אולי" הזה עלול להספיק כדי לזהם את הוודאות. לכן בתי המשפט לא יוכלו להסתפק בתחושת בטן של שופטת שמבחינה שמשהו בסרטון "מוזר". אינטואיציה אינה פרוצדורה. נדרשים כללים: שמירת קובץ מקורי, מטא-דאטה, שרשרת החזקה דיגיטלית, גילוי מוקדם של שימוש בכלי AI, מומחים פורנזיים וסנקציות ממשיות על מי שמגיש ראיה סינתטית כאילו הייתה תיעוד אותנטי.
גם בישראל הדיון הזה יגיע מהר יותר מכפי שנדמה. צילום מסך, הקלטת שיחה, סרטון מצלמת אבטחה או הודעת ווטסאפ כבר אינם יכולים להיחשב סוף פסוק. בעידן הגנרטיבי, ראיה לא רק צריכה להראות מה קרה. היא צריכה להוכיח איך נוצרה, מי שמר אותה, מה השתנה בה ואיך ניתן לסמוך עליה.
המשפט בנוי על אמונה בסיסית: גם כשאנשים משקרים, אפשר לברר אמת. הדיפ-פייק מאיים להפוך אמונה זו למשימה יקרה, מורכבת ושברירית הרבה יותר. כי ביום שבו העד שלא באמת היה יכול לדבר בביטחון מלא, והשקרן האמיתי יכול ליהנות מהספק שהטכנולוגיה יצרה עבורו, בית המשפט יצטרך לשאול שאלה חדשה לפני כל שאלה אחרת: האם הראיה שלפנינו היא חלון למציאות, או עוד מסך שמסתיר אותה?
המאמר מוקדש לזכרו של אבא שלי, שאול לביא, שהיה לי כל העולם כולו. מותו הפתאומי, הטרגי והבלתי נתפס הותיר חלל עצום שלא יתמלא לעולם ואין מילים שיבטאו את עומק הכאב והגעגוע. טוב ליבו, חוכמתו ורוחו ייזכרו לנצח בליבנו.
20 תגובות
זה ממש מפחיד
כל אחד יכול להיוצ כל אחד
ואז אצה נאחץ להוכיח שזה לא אצה
מאמר מעניין מאוד. יישר כוח לכותבת המאמר
ניתוח חד שממחיש היטב את הפער בין השיח הציבורי הפשטני לבין המורכבות המשפטית האמיתית של הסוגיה. פוסט חשוב, בהיר ומאיר עיניים.
כאשר שר המשפטים שלנו עסוק בערעור מערכת המשפט, אין סיכוי שהיא נערכת להתמודד עם מה שמביאה איתה מהפכת הבינה המלאכותית.
תודה לד"ר מיכל לביא על השיתוף בכתבה החשובה הזו. אכן עידן הבינה המלאכותית מעמיד אותנו בסיכונים
כאשר עולה שאלה מהותית אם הראיות לפנינו אמיתיות או מצג שווא שאנשים בחרו לזייף עם הבינה המלאכותית?
בית משפט חותר לצדק ולבירור האמת בעוד במקביל יש מי שמנסים לשבש דיון משפטי כדי שיטו את הכף לטובתם
זו בעיה מוסרית שצריכים לדבר עליה ולתת עליה את הדין
אדם לא יכול לומר זה לא אני זה זיוף של הבינה המלאכותית היות שהבינה לא ממציאה סתם היא יוצרת תוכן על סמך פרומפטים שאדם אנושי הכניס אליה ולכן אדם לא יכול להסתתר מאחורי מסך ולהמשיך לשקר ויצטרך לתת על זה את הדין ולאפשר לאמת לצאת לאור.
אנחנו רוצים להאמין שאנשים אומרים את האמת ורק את האמת בבית משפט אבל חשוב לפקוח עיניים ואוזניים לניואנסים לבחון אם הראיות הן אמת או לא ולא לסמוך על כל ראיה כזה ראה וקדש. לבחון כל הדמיה וכל הקלטה.
בהצלחה לעו"ד של עידן זה !
מאמר חשוב מאוד. שמרכז בתוכו את הבעיות הרציניות שנוצרו עם הרחבת ההפעלה של הבינה המלאכותית גם לענייני ראיות.
מאמר מעניין מאוד הארת את עיניי
בס"ד
מאמר מעניין מאוד על אחת הסכנות שבבינה המלאכותית.
מאמר חשוב, מרתק ופוקח עיניים על סכנות הבינה למערכת הצדק והפגיעה במושג האמת
מאמר מרתק זה ממש נכון
מאמר חשוב ומטלטל. הסכנה היא לא רק שראיות מזויפות ייראו אמיתיות, אלא שגם ראיות אמיתיות יהפכו קלות להכחשה. מערכת המשפט חייבת להיערך לזה כבר עכשיו
הנקודה החשובה ביותר בעיניי היא שהאינטואיציה של שופט לא יכולה להספיק. נדרשים כללים ברורים לבדיקת מקור הראיה, שרשרת ההחזקה, המטא־דאטה והשימוש בכלי בינה מלאכותית
המושג "דיבידנד השקרן" מתאר היטב את האיום החדש: הטכנולוגיה לא רק מאפשרת לייצר שקר, אלא
גם מעניקה לשקרנים אפשרות לערער על האמת. מאמר חד ורלוונטי מאוד
לפוסט-מודרניסטים שטענו לאי אמת מוחלטת אחת , הינה באה הבינה המלאכותית ונותנת נדבך נוסף לערעור העולם לפיו התנהלנו כמעט מתחילת העולם. הגמרא קובעת "על פי שנים עדים יקום גבר" – עד אחד איננו מספיק, גם אם השופטים משוכנעים שהעד דובר אמת. מכאן ואילך , לאור מה שמוצג בכתבה החשובה, עדות אלקטרונית איננה יכולה לשמש כעדות קבילה והעד יצטרך להופיע אישית בפני השופטים. זו אולי נסיגה מול שפע העדויות המצולמות לכאורה אך אין ברירה. רק עדות בשמיעה וחקירה נגדית, תוכל אולי לרדת לחקר האמת.
נהנתי . המאמר מעלה תהיות רבות בעולם בו לשקרנים ולנוכלים לעברינים ולרמאים יהיה קל כל כך לפגוע באנשים הולכי בדרך הישר בתמימות.יהיה קשה מאוד להבחין בין שקר לאמת.אכן אנשי אמונה אבדו.יישר כוח גדול לד"ר לביא.
שאלת תם
הים הבינה המלאכותית לא תהיה מסוגלת מצד שני לזהות מה אמת ומה בלוף?
ותארו לעצמכם מה יהיה כאשר השופט יהיה גם הוא בינה מלאכותית
יישר כח לד"ר מיכל לביא על מאמרה פוקח העיניים והמשמעותי!
"דיבידנד השקרן" זו תופעה שיש להיזהר ממנה שמלמדת שעל כל שופט/ת לבחון כל ראיה ועדות לגופה עד כמה היא אמיתות ונטולת שימוש בבינה מלאכותית וזיוף ראיות או עובדות לצורך קידום אינטרס מסוים של תובע. זו עבודה לא פשוטה להבחין בימינו מה אמת ומה שקר אבל זו מלאכת קודש.
יישר כח!!
כבר כיום הראו לי מסמכים שעמיתים מכינים לרשויות ולעסקים, שהוכנו על ידי בינה מלאכותית ועברו "ליטוש".
אפשר לחשוב שבלי בינה מלאכותיתאי אפשר לשקר, להתחזות, וכו'.