שגיאות מי יבין…

על מה, לדעת חברת מייקרוסופט, מעידות שגיאות?
תמונה של מר גבעון
פרופסור יהושפט גבעון

מי מכם לא קיבל לאחרונה את ההודעה מטעם מייקרוסופט: "ניסית להיכנס פעמים רבות מדי באמצעות חשבון שגוי או סיסמה שגויה. ברצוננו לוודא שאינך רובוט"? למשל, אם החלפתם מכשיר ונאלצתם להתקין מחדש אפליקציות רבות שהיו על המכשיר הקודם שלכם ונכשלתם מספר רב מדי של פעמים ב"כניסה" אל תוכנה מבית מייקרוסופט, התעורר החשד שפעולתכם אינה פעולה של יצור אנושי אלא של תוכנה הבנויה להתחזות לאדם כדי לפרוץ למכשיר. חברת מייקרוסופט מנסה לכאורה למנוע חדירה של "רובוטים" למכשיר שלכם, אך תוך כדי כך היא מגלה כמה עובדות מעניינות.

למעשה מוצגת לפנינו גרסה מיוחדת של מבחן טיורינג – מערכת מייקרוסופט צריכה להחליט אם הנבחן הוא אדם או מכונה, ובמקרה הזה היא עושה זאת בשני שלבים. תחילה המערכת מבקשת סיסמה, ואם הסיסמה מוקלדת ללא שגיאה, היא קובעת שהנבחן הוא אדם. אבל אם הסיסמה מוקלדת כמה פעמים בשגיאות, היא חושדת שהמבקש "להיכנס לתוכנה" הוא תוכנה ולא אדם. ואז יש לבצע בדיקת זיהוי אותיות, והצלחה בבדיקה קובעת שהנבחן הוא אדם. הדמיון למבחן טיורינג ברור למדי.

מתי, לדעתם של מומחי מייקרוסופט, יש לחשוד בפעולתך שהיא פעולה של תוכנה זדונית המנסה לחשוף את פרטיך האישיים, כאשר הקלדת שגיאות או כאשר דייקת בהזנת הנתונים למכשיר? וכיצד הבדיקה מתבצעת? באמצעות זיהוי של אותיות ברורות או של אותיות מעוכות ומעוותות? נחשפות כאן כמה הנחות בדבר יכולת הפעולה של תוכנות יחסית ליכולת הפעולה של בני אדם, כדלקמן:

  • לפי מייקרוסופט, שגיאות תכופות הן עדות מספקת לחשד לפעולה של מתווך דיגיטלי, של תוכנה המנסה להתחזות כאדם ולפרוץ אל התוכנות השמורות שלך.
  • המבחן הפשוט ביותר לזיהוי תבונה אנושית הוא בזיהוי אותיות המוצגות כקשקוש, כי רק אדם אמור להיות מסוגל לבצע את הזיהוי נכונה.

כלומר מערכת ההגנה של מייקרוסופט פועלת על סמך ההבנה שתוכנות נוטות לשגות ומתאפיינות בכך, ואילו בני אדם מזוהים בפעולות חסרות שגיאה. ויתרה מזו, בני אדם מתאפיינים ביכולתם לזהות אותיות המוסתרות ברקע מקושקש או המעוותות עד כדי קשקוש. מובן שמאחורי ההתנהגות של מערכת ההגנה של מייקרוסופט מסתתרות שתי הצהרות על רמת ההצלחה של הבינה המלאכותית כפתרון נבון לבעיית הבוטים הזדוניים:

  • הדרך הקיימת לחדור באמצעות תוכנה אל תוכנה המוגנת על ידי חשבון וסיסמה היא בהצעת חשבונות וסיסמאות, ואלה נכשלים זה אחר זה. ולכן אם "ניסית להיכנס פעמים רבות מדי באמצעות חשבון שגוי או סיסמה שגויה" מתעורר החשד שהמצב נוצר על ידי פעולה של תוכנה המנסה לנחש את החשבון והסיסמה שלך. החשד הזה יישאר מוצדק כל עוד הדרך לפרוץ מערכות תוכנה לא תשתנה.
  • אין סיכוי שתימצא דרך (אלגוריתם) לזיהוי צורות שאפשר לסמוך על הצלחתה אפילו בטווח זיהוי תווים (אותיות וספרות).

לאמיתו של דבר מתעוררים כאן כמה חשדות:

  • חברת מייקרוסופט, כפי הנראה, מתייחסת אל התנהגות הרצופה בשגיאות כמאפיין התנהגות של תוכנות ולא של בני אדם. בכך היא מבטאת את הרעיון שלשגות זה דיגיטלי ולא כל כך אנושי.
  • חברת מייקרוסופט, כפי הנראה, סוברת שהפריצה למערכות תוכנה תהיה מבוססת, לפחות בעתיד הנראה לעין, על ניסויים ושגיאות, והפורצים לא יצליחו למצוא דרכים חדשות לגילוי החשבונות והסיסמאות שלנו.
  • לדעת מומחי התוכנה של מייקרוסופט, הסיכוי שנצליח לפתח תוכנות לזיהוי תבניות גרפיות פשוטות הוא אפסי.

והחשד המטריד ביותר הוא שאולי חברת מייקרוסופט מעוניינת יותר ביצירת רושם שהיא מעוניינת בהגנה על הנתונים שלנו מאשר בהשקעת מאמצים כנים בהגנה על הנתונים שלנו. במלים אחרות, אולי מטרת ההודעה "ניסית להיכנס פעמים רבות מדי באמצעות חשבון שגוי או סיסמה שגויה. ברצוננו לוודא שאינך רובוט" והדרישות הנלוות אליה, היא להונות אותנו?

שיתוף ב facebook
Facebook
שיתוף ב twitter
Twitter
שיתוף ב linkedin
LinkedIn
שיתוף ב whatsapp
WhatsApp
שיתוף ב email
Email

8 תגובות

  1. מי שמנסה להשתלט על חשבון מקליד כל מיני סיסמאות וככל שהוא מנסה יותר פעמים הסיכוי שלו להצליח גדל. אבל המערכת לא נותנת לו להמשיך, אם הוא מכונה הוא הרי יכול להמשיך ללא סוף. לכן מבקשים בשלב השני לבצע מכונה שקלה לאדם ומאוד מורכבת לנכונה.

    1. לארגון או ליצרנים ולא לציבור. ולכן אולי תמיד מסתתרת מאחוריו הונאה?
      אולי זה אולי…

  2. לבעיות שיוצרות החברות הגדולות ששולטות על העולם הדיגיטלי. והן רבות מעבר לנקודות בהן דנת. אם לא היה כעת משבר קורונה זה כבר היה מתפוצץ. נחכה בסבלנות לראות את ההתפתחויות.

    1. בשנים האחרונות דנתי בבעיות רבות שהחברות הגדולות יוצרות, ואני לא יכול לחזור עליהן בכל מאמרון שאני מפרסם כאן. אזכיר רק חוקרים שהצביעו על בעיות אלה ושאוזכרו במאמרי: דאגלאס ראשקוף, שושנה זובוף, יארון לאניר, שריל טרקל, ועוד. חפש ברשת (באנגלית) ותמצא מה הם כתבו ועל מה הם דברו. לצערי אינני מורשה כאן להציב קישורים שיוציאו אותך מהאתר.

  3. לאמיתות חסרים. אני גם לא חושב שהם עובדים עלינו ומנסים להטעות אותנו. פתחת מוכנים נגד כל חברות הטכנולוגיה המובילות בתחום המידע.

כתיבת תגובה

האימייל לא יוצג באתר.

פרסום תגובה מהווה הסכמה לתנאי השימוש באתר.
התגובות יפורסמו לפי שיקול דעת העורך.

עשוי לעניין אותך

תמונה של סטיב

מי ישלם את מחיר?

בעקבות הימלטות האסירים ולקראת התייעלות מערכתית