הבינה המלאכותית והחוק

האם יש לחוקק חוקים ביחס לשימוש בבינה מלאכותית?
תמונה של מר גבעון
פרופסור יהושפט גבעון

ב-14 בפברואר פרסם פרופ' גארי מרכוס מאמר קצר העוסק בצורך הדחוף בחקיקה פדרלית שתאסור על הבינה המלאכותית להתחזות לבני אדם. במאמרו הוא הסתמך על דברי הפילוסוף דניאל דנט (2024-1942) שהתריע כבר במאי 2023: כי "היום, בפעם הראשונה בהיסטוריה, הודות לבינה המלאכותית, כל אחד יכול ליצור אנשים מזויפים שיכולים להיחשב כאמיתיים בסביבות הדיגיטליות הרבות שיצרנו. אנשים מזויפים אלה הם האמצעים המלאכותיים המסוכנים ביותר בהיסטוריה האנושית, המסוגלים להרוס לא רק את הכלכלה אלא גם את החופש האנושי עצמו. לפני שזה יהיה מאוחר מדי (וייתכן שזה כבר מאוחר מדי) עלינו להוציא מחוץ לחוק את גם את יצירת האנשים המזויפים וגם את 'התנהלותם'. העונשים על עבירות אלה צריכים להיות חמורים באופן קיצוני כי מדובר בסכנה לתרבות עצמה" (המאמר התפרסם בכתב העת The Atlantic, והציטוטים כאן הם בתרגום חופשי שלי).

מרכוס הביע תמיכה מלאה בעמדתו של דנט: "אמור לנציג שלך היום, לא מחר, שעלינו לחוקק חוקים פדרליים האוסרים על שימוש בפלט של מכונות כאילו היו של בני אדם, ועלינו לפתח את האמצעים הנדרשים כדי לאכוף את החוקים האלה […] מערכות בינה מלאכותית יוצרות (generative AI systems) עדיין יכולות להיאבק כדי להגיע לידי תבונה, כפי שנדון כאן לאחרונה, אבל הן נבנו למטרת חיקויים, והחיקויים האלה הגיעו לנקודה שבה עלינו לעשות משהו" (שם).

דנט סייג את דרישתו לאיסור גורף על פיתוח הונאות דיגיטליות: "שום שימוש בשפה בגוף ראשון על-ידי ושום חיקוי עמוק של קולות של בני אדם חיים או של מראה פניהם ללא אישור מפורש, חוץ מתפניות ברורות למטרת פרודיה וכדומה" (שם). מעניין לציין כי שניהם לא חשבו כיצד חקיקה כזו תשפיע על מהות הבינה המלאכותית. הרי המבחן הבסיסי של התבונה המלאכותית, כפי שהוגדר בשנת 1950 על ידי טיורינג, מבוסס על "משחק החיקויים". החוקים שהציעו דנט ומרכוס יפסלו את "מבחן טיורינג", שבו תוכנה מעמידה פנים כבן אדם כדי להטעות את השופטים במבחן. יתרה מזו, גם רובו של המחקר בפיתוח הבינה המלאכותית ייפסל על ידי החקיקה המוצעת על ידי דנט ומרכוס, מכיוון שבמחקר על מודלים חדשים של תוכנה דיגיטלית חושבת החוקרים חייבים לבנות חיקויים של החשיבה האנושית ולבחון אותם. במילים אחרות, במחקר על פיתוח הבינה המלאכותית החוקרים ייאלצו לכאורה לעבור על החוק.

הטיעונים שלי מצביעים על קשיים הנובעים מהחקיקה המוצעת, אך אינם שוללים את המניע להצעת חוק שכזה. הבינה המלאכותית, מראשיתה, פותחה כדי ליצור מצב שאינו מוסרי. הונאה דיגיטלית היא עדיין הונאה, והשימוש הנפוץ בהונאות בכלכלה, בחינוך, ביחסי אנוש ובתחומים אחרים עלול להרעיל את התרבות האנושית ולערער את הבסיס המוסרי שלה.

אנו נמצאים לפני צומת הכרעה: מצד אחד, חקיקה לא מרוסנת, כמו שהציע דנט, שאומנם תמנע נזקים מהונאות אבל תפגע בתחום הבינה המלאכותית שעלולה לפגוע במחקר עצמו; ומצד שני, שימוש לא מרוסן בתוכנות בינה מזויפת ובהונאות דיגיטליות עלול לחשוף אותנו להתמכרויות ולהונאות מזיקות. עלינו למצוא פשרה אופטימלית ואחראית בין שתי האפשרויות האלה. פתרון לדילמה הזו יימצֵא רק על ידי מחקר מעמיק ולא על ידי התלהבות פרועה שאיננה נתמכת בעובדות.

היעדר מחקר מבוסס בתופעות השכליות עלול למנוע מאיתנו למצוא פתרון מוצלח לדילמה, שכן ההתמכרות להצלחות הדיגיטליות היא תופעה שכלית שגורמת להטיה מסוכנת בתרבות שלנו.

שוב ושוב אנו נתקלים בבעייתיות הנובעת מהבורות שלנו ביחס לתופעות המתרחשות בעולם הפנימי שלנו. ללא הבנה מבוססת של התופעות הללו, אנו מסכנים את עצמנו לדעת.

Facebook
Twitter
LinkedIn
WhatsApp
Email

5 תגובות

  1. חייבים לחוקק חוקים, ומדובר בהרבה מאוד חוקים. אחרת הבינה המלאכותית תייצר כאוס בקשר לכל החוקים, והערכים, והתקנים, והרשימה עוד ארוכה בלי סוף. וחשוב לעשות זאת בהקדם לפני שיגרמו נזקים שאינם ברי תיקון.

    1. לחיים תודה על תגובתך,
      אתה טוען שהבעיה נובעת מהצורך בהרבה חוקים. אבל אפילו חוק אחד שיאסור על חיקוי האדם יהיה חוק שאוסר על הבינה המלאכותית מעצם הגדרתה.
      כל הגדרה של הינה מחאכותית תהיה הגדרה של חיקוי של הינה טבעית. פירושו של דבר שאם חיקוי של תבונה אנושית תהיה אסורה על פי דין, אז אסור יהיה לפתח תוכנות של בינה מלאכותית.
      לכן, אם יש צורך בחוקים נכד חיקויים אז יש צורך בחוקים נגד הבינה המלאכותית.
      זאת הדילמה.

  2. הבעיה שהמשפטנים הם השמרנים ביותר שיש, ולוקח להם המון שנים להבין שמשהו משתנה

  3. אתה מאוד צודק. רק התחילה להופיע וכבר ביממה את כולם

  4. בתחום זה תיבחן כל מדינה בנפרד, וכל העולם המתקדם. ישפיע מאוד על כל אדם פרטי, ועל מדינות בכלל

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של סטיב

מישיגן פינת רהט

המהפך בקונגרס, ההצבעה ברהט והשפעתם על עתיד ישראל

דילוג לתוכן