המודל שכובה בלחיצת רגולטור

בבוקר הוא היה מוצר. בערב הוא כבר היה עניין של ביטחון לאומי.

זה הלקח שצריך לקחת מפרשת Fable 5. בעוד כמה ימים אולי נשכח איך קראו למודל. אבל את הרגע הזה אסור לשכוח: מודל בינה מלאכותית מתקדם שהושק לציבור, הושבת בעקבות הוראה רגולטורית של הממשל האמריקני. לא בגלל באג. לא בגלל קריסת שרתים. לא בגלל תקלה בענן. אלא מפני שמדינה החליטה שהגישה אליו מעוררת חשש ביטחוני.

אנתרופיק הודיעה כי קיבלה הוראת פיקוח יצוא להשעיית הגישה של כלל המשתמשים ל-Fable 5 ול-Mythos 5. החברה צייתה להוראה, אך חלקה על הצדקתה: לשיטתה מדובר בפרצת עקיפה נקודתית, ולכן נדרש הליך שקוף ומבוסס עובדות.

עכשיו דמיינו ארגון שבנה על מודלים כאלו שירות לקוחות, מנוע המלצות או מערכת ניתוח מסמכים. על הנייר הכול נראה מסודר: API, הרשאות וחוזה. ואז מתברר שהתלות אינה רק טכנולוגית. היא רגולטורית. השאלה כבר אינה רק האם המודל זמין, אלא האם הממשלה תחליט שמותר להשתמש בו, למי, באילו תנאים ומתי הוא הופך ממוצר מסחרי לנכס מפוקח.

זה המקום שבו מדיניות טכנולוגיה מפסיקה להיות דיון תיאורטי ומתחילה להיות חלק מעיצוב מערכות. מודלי AI חזקים אינם "עוד ספריית קוד". הם תשתית חישובית, תשתית ידע ותשתית פעולה. וכשהם נוגעים בסייבר, ביטחון או תשתיות קריטיות, המשפט והפוליטיקה נכנסים ישירות לתכנון המערכת. זו ריבונות רבודה: תשתית טכנולוגית פרטית שהופכת לנקודת אכיפה של החלטה ציבורית, לצומת שבו נפגשים משפט, ביטחון, פוליטיקה וארכיטקטורה.

הדילמה הזו אינה חדשה לגמרי. במאמר קודם, שכתבתי בעקבות פסק הדין TikTok v. Garland ופורסם באתר "משפט ועסקים", עמדתי על הסכנה שבמודלים רגולטוריים של "הכול או כלום" – מכירה או איסור, פתיחה מוחלטת או חסימה גורפת. במקום זאת, הצעתי מתווה שמבוסס על ראיות ספציפיות, שקיפות, פיקוח ומנגנוני בקרה מתקדמים, כדי לאזן בין צורכי הביטחון לבין זכויות יסוד, חדשנות וזרימת ידע. הרשימה גם הזהירה כי הגבלות חריפות בשם ביטחון לאומי עלולות להאיץ פיצול של האינטרנט לפי גבולות לאומיים.

פרשת Fable 5 ממחישה היטב את המדרון. מחד גיסא, מדינה אינה יכולה להתעלם מסיכוני שימוש לרעה במודלים בעלי יכולות מתקדמות. אם מודל מסוגל להאיץ גילוי חולשות, לסייע באוטומציה של תקיפות או להרחיב יכולות סייבר מסוכנות, ברור שיש אינטרס ציבורי בפיקוח. מאידך גיסא, כיבוי גורף בגלל חשש שאינו מפורט מספיק עלול להפוך ניהול סיכונים להורדת מתג.

אלא שכאן טמונה בעיה שהסיסמאות הרגולטוריות הרגילות אינן פותרות. כשמדובר בפלטפורמת תוכן, הפיקוח יכול להתמקד בפלט: אפשר לנטר פוסטים, להסיר תכנים, לדרוש שקיפות אלגוריתמית. אבל במודל שפה גודל הסיכון אינו רק בפלט, הוא טמון גם ביכולת עצמה. המודל אינו "מפרסם" דבר; הוא מאפשר. הוא יכול להדריך, לסייע, להאיץ בזמן אמת. לא ניתן לבחון כל אינטראקציה מראש, ולא ניתן לנטרל יכולת ספציפית מבלי לפגוע ביכולות אחרות שלגיטימי להשתמש בהן. זו בדיוק הסיבה שמנגנוני פיקוח שנבנו עבור פלטפורמות חברתיות אינם מתורגמים ישירות לעולם ה-LLM – כאשר היכולת המובנית במודל היא מקור הסיכון, הרגולציה חייבת להיות מובנית לתוך שלב הפיתוח, ההערכה ומנגנוני הגישה, לא רק מיושמת בדיעבד על הפלט. המשמעות היא שפיקוח אמיתי על AI אינו רק שאלה של מדיניות ציבורית; הוא שאלה של ארכיטקטורה.

מנקודת מבט ארגונית, הלקח חד: לא מספיק להוסיף AI, צריך לתכנן תלות ב-AI כמו שמתכננים סיכון תשתיתי. המשמעות היא ריבוי מודלים במקום single point of failure רגולטורי, מנגנוני fallback שאינם תלויים בספק יחיד, מיפוי של תהליכים קריטיים הנשענים על מודלים חיצוניים, ותיעוד, בקרה ומדיניות שימוש שמבינים דבר אחד פשוט: compliance וארכיטקטורה כבר אינם שני עולמות נפרדים.

המודל אולי יישכח. התקדים לא. כי בעידן החדש מערכת יכולה לקרוס גם כשהקוד עובד מצוין. לפעמים לא השרת נופל. הרגולטור פשוט מכבה את האור.

המאמר מוקדש לזכרו של אבא שלי, שאול לביא, שהיה לי כל העולם כולו. מותו הפתאומי, הטרגי והבלתי נתפס הותיר חלל עצום שלא יתמלא לעולם ואין מילים שיבטאו את עומק הכאב והגעגוע. טוב ליבו, חוכמתו ורוחו ייזכרו לנצח בליבנו.