פרדוקס ה-Mythos

הקביעה שמודל מסוים הוא "מסוכן מדי לשחרור" נשמעת לעיתים כמו סוף הדיון – כאילו זיהוי הסיכון מסיים את הסיפור. אבל בעולם של בינה מלאכותית, האמירה הזאת היא בדרך כלל רק תחילתו של הדיון. השאלה האמיתית איננה רק אם המודל שוחרר לציבור, אלא איך מגינים עליו מרגע שהוא מתחיל לעבור בין עובדים, ספקים חיצוניים, סביבות בדיקה ולקוחות נבחרים.

זהו הלקח המרכזי שעולה מהדיווחים על פרשת Mythos, מודל הבינה המלאכותית החדש של חברת .Anthropic  על פי פרסומים ב- Euronewsו ב- ,Bloomberg מדובר במודל לאבטחת סייבר מתקדם ברמה הארגונית שנועד לסייע בזיהוי חולשות אבטחה, לאתר פרצות, ולחזק מערכות לפני שתוקפים אמיתיים מנצלים אותן. בשל הערכת החברה כי יכולותיו עלולות ליצור סיכוני סייבר חריגים, המודל לא נפתח לציבור הרחב. למרות זאת, דווח שהייתה גישה לא מורשית למודל דרך ספק שירותים חיצוני – Vendor, אף שחברת Anthropic  מסרה שהיא חוקרת את האירוע ושאין בשלב זה אינדיקציה לכך שמערכות הליבה שלה נפגעו.

כאן נמצא הפרדוקס של ה-Dual-Use: ככל שמודל טוב יותר באיתור חולשות, כך הוא עלול להיות טוב יותר גם בניצול שלהן. במקרה שלMythos , היכולות שמאפשרות למודל למצוא חולשות משמעותיות, עלולות להפוך בידיים הלא-נכונות למסלול תקיפה מעשי. בשל סיבה זו בחרה החברה להגביל את הגישה אליו ללקוחות שהם ארגונים גדולים (Enterprise) בלבד, ולא לשחרר אותו כמוצר פתוח לציבור – וכאן בדיוק הופך הדיון מטכנולוגי למשפטי.

השאלה הראשונה שיש לבחון היא האחריות בשרשרת האספקה. אם הגישה הלא-מורשית התבצעה דרך ספק חיצוני, קל לומר שהבעיה היא של אותו ספק. אבל מבחינה משפטית, התשובה לא יכולה להיעצר שם. כשחברה מפתחת מודל שהיא עצמה מציגה כבעל פוטנציאל סיכון חריג, בחירת ספק חיצוני והפיקוח עליו אינם עניין טכני זניח, אלא חלק ממתחם הסיכון. לכן גם אם החוזה מחלק אחריות בין החברה לבין הספק, קשה לטעון שהאחריות כלפי לקוחות, רגולטורים או הציבור נעלמת ברגע שהגישה עברה דרך צד שלישי. במישור האזרחי, אם ייגרם נזק ממשי כתוצאה מגישה לא מורשית למודל, אפשר לצפות לתביעות נזיקין שיבחנו האם Anthropic נקטה אמצעי זהירות סבירים ביחס לרמת הסיכון שהיא עצמה זיהתה: תיעוד פנימי שמגדיר מודל כ"מסלול תקיפה מעשי", עלול לשמש גם בסיס לטענה שהחברה ידעה על הסיכון ולא עשתה די כדי לצמצמו.

השאלה השנייה שיש לבחון היא המענה הרגולטורי. לפי הדיווחים, Mythos נבחן בקרב קבוצה מצומצמת של גופים גדולים נבחרים, ובהם חברות טכנולוגיה ובנקים מובילים, תוך ניהול שיח עם גורמים בממשל האמריקאי לגבי היכולות ההתקפיות וההגנתיות של המודל. אלא שהפצה מוגבלת אינה מעלימה את הסיכון; לפעמים היא רק מעבירה אותו מהציבור הרחב אל אזורי גישה פחות נראים לעין: עובדים, לקוחות נבחרים, סביבות בדיקה וספקים חיצוניים.

לכן, גם אם במשפט הישראלי טרם גובש מבחן "סף סכנה" למודלי AI, המגמה ברורה: ככל שהמודל מסוכן יותר, כך נדרש סביבו משטר בקרה מחמיר, מתועד ובר-ביקורת. באיחוד האירופי, למשל, מודלים כלליים בעלי סיכון מערכתי כפופים לחובות מחמירות יותר של הערכת סיכונים, תיעוד, דיווח על אירועים חמורים ואבטחת סייבר. זה לא פותר הכול, אבל מסמן כיוון: לא די לומר שהמודל "לא פתוח לציבור". צריך לשאול מי קיבל גישה, באילו תנאים, אילו ספקים מעורבים, האם הייתה הפרדת סביבות, והאם בוצעה סימולציית Red Teaming אמיתית, כלומר תרגילי תקיפה מבוקרים. נדרשת ארכיטקטורת אחריות מחמירה כבר בשלבי החשיפה הראשוניים, גם אם היא ללקוחות Enterprise בלבד.

הלקח מפרשת Mythos אינו שסודיות היא בלתי אפשרית; הוא מדויק יותר: מודל שמוגדר מסוכן מדי לשחרור לא יוכל להישאר סודי לאורך זמן אם שרשרת ההרשאות סביבו אינה בנויה כמו שצריך. המשפט והרגולציה צריכים להיכנס לתמונה לא אחרי שהמודל דולף, אלא כבר בשלב שבו מחליטים מי רשאי לגעת בו ובאילו תנאים.

המאמר מוקדש לזכרו של אבא שלי, שאול לביא, שהיה לי כל העולם כולו. מותו הפתאומי, הטרגי והבלתי נתפס הותיר חלל עצום שלא יתמלא לעולם ואין מילים שיבטאו את עומק הכאב והגעגוע. טוב ליבו, חוכמתו ורוחו ייזכרו לנצח בליבנו.