חוות הסוסים של ChatGPT

סיכוני ה-AI מתחדדים
תמונה של אבי
אבי רוזנטל

מישהו שאל את בוט ה-AI הידוע ChatGPT איזו פעילות הוא מציע לו לעשות עם הילדים שלו. בהתאם לפרטים שנתן לתוכנה הציע לו ChatGPT לקחת אותם לרכיבה על סוסים בחוות סוסים מסוימת.

"איזה יופי," חשב השואל, "ממש מתאים לילדים שלי."

היות שהזמן הפנוי המשותף לו ולילדים היה בשבת, השאלה הבאה שלו הייתה, האם החווה הזו פתוחה בשבת?

תשובת ChatGPT הייתה, "החווה נסגרה בשנת 2013."

המסקנה ממקרה זה, וממקרים אחרים חמורים יותר, היא שלעולם אל לכם להסתמך באופן עיוור על תוכנות AI. בדקו את התשובות שהתוכנות האלה נותנות לכם.

באחד המקרים לא היו ערים לסיכונים של הסתמכות על כלי בינה מלאכותית בסניף האוסטרלי של חברת Deloitte, חברה בין-לאומית המספקת שירותי ראיית חשבון וייעוץ. החברה ביצעה הערכה של מערכות מידע של משרד ממשלתי, אך הדו"ח הכיל שגיאות מהותיות, ואלה התגלו על ידי מרצה באוניברסיטת סידני. השגיאות נעשו על ידי ChatGPT 4. בית המשפט חייב את החברה לשלם לממשלת אוסטרליה סכום כספי גבוה.

קצת אירוני, שכן Deloitte נותנת שירותי ייעוץ בניהול סיכונים.

חוות הסוסים היא קוריוז. החוות הרלוונטיות למאמר זה הן חוות השרתים של חברות גדולות המשתמשות ב-ChatGPT ובמוצרים אחרים, ואלה הן עסק יקר. במקרה של ChatGPT מדובר בחברות כמו מיקרוסופט, אורקל ומטה.

חוות השרתים משתמשות במעבדים של "אנבידיה", ואלה יקרים כי החברה היא למעשה מונופול בשבבי AI. כמו כן עלות צריכת החשמל לביצוע העיבודים צפויה להיות אסטרונומית. גם השרתים, התקשורת והתוכנות האחרות עולים לא מעט כסף. גם כוח האדם.

הבעיה היא שהרווחים רחוקים מלהתקרב להוצאות.

חברת OpenAI הוגדרה במקור כחברה ללא מטרות רווח, אבל ודאי לא הוגדרה כחברה עם מטרות הפסד. וממילא כעת, כשההגדרה שונתה, החברה מחפשת כיצד להרוויח.

סם אלטמן, מנכ"ל החברה, מדבר על שימוש עתידי בפרסומות במוצר ועל שימוש עתידי ב"תכנים למבוגרים" בתשלום.

הכוונה ב"תכנים למבוגרים" היא שיחות ארוטיות של בני אדם מעל לגיל 18 עם הבוט.

Facebook
Twitter
LinkedIn
WhatsApp
Email

5 תגובות

  1. הבינה המלאכותית בראשית דרכה. כל שנה היא תשתפר בקצב עצום. בעוד עשור היא תעשה הרבה פחות טעויות ממה שעושים בני האדם

    1. ליאור ב, תודה על תגובתך.
      מסכים שהבינה המלאכותית היא בשלב ה-Hype. היום יש יותר דיבורים מתועלות. מסכים שהיא תהפוך לטכנולוגיה מועילה שאי אפשר יהיה בלעדיה, אבל גם הסיכונים שלה גדולים מאוד. אפשר לצפות בהרצאה שלי על סיכוני AI בערוץ היוטיוב שלי

  2. חש בטכנולוגיה תמיד סיכונים אבל גם פוטנציאלים חיוביים מאוד. תלוי כמה חכמים נהיה לנצל את הפלוסים ולחזק אותם, ולמזער את הסיכונים

    1. אריק, תודה על תגובתך.
      הטענה שלך נכונה לדעתי, אבל…. בינה מלאכותית היא מהפיכה בסדר גודל של המהפיכה התעשייתית. תועלות עתידיות גדולות בצד סיכונים גדולים הרבה יותר מאשר בתפיסות טנולגיות אחרות.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של לירן

מי ידע מה ומתי?

אחריות פלילית של תאגיד בעידן הבינה המלאכותית

דילוג לתוכן