OpenAI חצתה רשמית את הקו המפריד בין סייען כללי לבין כלי ייעודי בליבת עולם הרפואה עם השקתו של ChatGPT Health. זהו מרחב נפרד ומאובטח בתוך ChatGPT שמיועד לשמש ״עוזר בריאות אישי״ המבוסס על ההקשר הייחודי של המשתמש. המערכת פועלת באמצעות אינטגרציה של מקורות מידע: היא מאפשרת חיבור לרשומות רפואיות, סנכרון לאפליקציות מדדים כמו Apple Health והעלאת קבצים ותמונות רפואיות לצורך עיבוד בתוך השיחה. היתרונות של המהלך הזה אמיתיים. בעולם של עומס מידע רפואי, פערי שפה ותורים קצרים, יתרונותיו של כלי זה הם משמעותיים: שיפור אוריינות רפואית, הפחתת חרדה, וייעול זמן הביקור אצל הרופא. המטרה המוצהרת היא להפוך נתונים מפוזרים לסיפור קוהרנטי, לזהות מגמות לאורך זמן, לסכם תוצאות בדיקות מעבדה, ולהכין את המטופל למפגש עם הרופא דרך ניסוח שאלות ממוקדות והסבר מונחים קליניים בשפה נגישה.
אך כאן עובר הקו המפריד בין פיצ׳ר מגניב לבין שכבת סיכון משפטית ואתית: מה לגבי פרטיות המידע? והאם כשמשתמש קורא תשובה שמבוססת על תיקו הרפואי, הוא מתייחס לכך כאל הסבר ניטרלי, או כאל הכוונה טיפולית? זו לא שאלה רטורית. זו שאלת עיצוב, ציפייה והסתמכות. כי ברגע שהתשובה נשענת על דאטה אישי אמיתי, היא נשמעת יותר סמכותית. והסמכות הזאת, גם כשהיא מדומה, משנה התנהגות. משתמשים לא תמיד יודעים להבדיל בין הסבר לבין המלצה, במיוחד במצבי לחץ, כאב או חרדה, מצבים שעלולים להוביל להסתמכות יתר על מה שנתפס בטעות כשיקול דעת רפואי מוסמך ולהחלטות שגויות.
OpenAI מנסה לענות מראש על חלק מהחששות. באשר לפרטיות המידע, היא מתארת את Health כמרחב נפרד בתוך המוצר, עם הפרדה בין שיחות וקבצים, ועם שכבות הגנה ייעודיות, ומצהירה ששיחות ב-Health אינן משמשות לאימון מודלי היסוד. Privacy by Design זה חשוב, אבל גם מחדד נקודה קריטית: גם אם המידע לא משמש לאימון, הוא עדיין מוזן לתוך מערכת שמייצרת תשובות רהוטות ובטוחות בעצמן, ולכן חלק מהבעיה הוא ״תשתית״, אבל חלק אחר הוא אחריות מוצר. כלומר OpenAI יכולה לתת בידוד והצפנה, ולהצהיר שביצועי המערכת נבדקים על פי קריטריונים רפואיים כמו זהירות, התאמה קלינית, ויכולת לזהות אי-ודאות, אבל היא לא יכולה למנוע מצב שבו ממשק רהוט מדי יוצר ביטחון יתר, בדיוק בגלל שהטקסט נשמע ״מבין״.
וזה החיבור הישיר לנקודת סיכון מרכזית: אם המוצר לא מעוצב כך שיסמן גבולות בזמן אמת, הרי שגם אם יש הפרדה ואבטחה, מבחינת המשתמש זה עדיין ״המערכת אמרה״. לא ״המערכת סיכמה״. החיסרון המבני הוא הסתמכות יתר. ככל שהתשובות ממוקדות ובעלות ״טון של ודאות״, כך גובר הסיכון שהמשתמש יפסיק לשאול שאלות ויתחיל לציית באופן עיוור. כאן גם נוצרת הקרקע לבעיה הקשה ביותר: אבחנה שגויה, או לפחות פרשנות שגויה של נתונים, שמובילה להחלטה שגויה. ברגע שהמערכת עוברת מארגון נתונים למתן תובנות קליניות שמתחזות לשיקול דעת רפואי, היא נכנסת לזירה של חבות מוצר ורשלנות מקצועית, גם אם פורמלית היא מצהירה שהיא לא ״מטפלת״. בעניין זה מתעוררת גם שאלת ה-Traceability (עקיבות): אם משתמש פעל על סמך פלט שגוי ונגרם נזק, האם ניתן לשחזר מה הוצג לו, על סמך אילו נתונים, ובאיזו גרסת אלגוריתם? היעדר עקיבות עלול להוביל למצב של נזק בלי כתובת.
לכן מבחן הגבול הוא המבחן המרכזי: האם המערכת תישאר כלי עזר לארגון מידע ולהכנה לשיחה עם רופא, או שבפועל היא תיתן הכוונה והמלצה טיפולית? ככל שהטכנולוגיה תהיה מרשימה יותר, כך נצטרך להיות מחמירים יותר בהסכמה מדעת, בעיצוב שמבהיר גבולות בזמן אמת, ובמנגנוני ״עצור״ שמונעים חריגה. במילים אחרות: אם ChatGPT Health נכנס לחדר הבדיקה, מישהו חייב להחליט מראש איפה הוא יושב – ליד המטופל, או בחסות הרהיטות האלגוריתמית במקום הרופא.
המאמר מוקדש לזכרו של אבא שלי, שאול לביא, שהיה לי כל העולם כולו. מותו הפתאומי, הטרגי והבלתי נתפס הותיר חלל עצום שלא יתמלא לעולם ואין מילים שיבטאו את עומק הכאב והגעגוע. טוב ליבו, חוכמתו ורוחו ייזכרו לנצח בליבנו.






21 תגובות
מאמר מעניין מאוד
אוי לנו אם ההחלטה הסופית תינתן למערכת הבינה המלאכותית, ואני סבורה כי לשם הולכים עם גל ההתמכרות ל-AI.
מאמר מרתק וחכם!
המאמר מעלה נקודה מאוד חשובה: רופא אמיתי יודע להגיד "אני לא בטוח" או "בוא נעשה עוד בדיקות", אבל מערכת בינה מלאכותית תמיד נותנת תשובה שנשמעת בטוחה ומקצועית. זה יוצר בעיה – אתה מתחיל לסמוך על התשובה כי היא נשמעת הגיונית, אבל המערכת לא רואה את התמונה המלאה. היא לא יודעת שלקחת תרופה מסוימת אתמול שמשפיעה על הבדיקה, היא לא זוכרת שלפני שנתיים היה לך ערך דומה שהתברר כטעות, והיא לא מזהה שילובים של דברים קטנים שביחד מצביעים על משהו רציני. הבעיה היא לא רק שהמערכת יכולה לטעות הבעיה היא שהיא תיראה צודקת גם כשהיא טועה. ואז נשאלת השאלה: מי אחראי אם מישהו קיבל החלטה רפואית שגויה בגלל המערכת? בתחום הרפואה אי אפשר פשוט "לנסות ולראות מה קורה" – צריך להיות זהירים מראש, לא אחרי שכבר קרתה תקלה. המאמר לא אומר לוותר על טכנולוגיה חדשה, אלא לדאוג שהיא תהיה בטוחה ואחראית לפני שמכניסים אותה לשימוש רפואי אמיתי
בס"ד
מאמר חשוב, מאוד,ומעניין
מאמר חשוב אשר מבטא את הסיכונים של שימוש בבינה המלאכותית לטובת עולם הרפואה ומערכת הבריאות מאחר ואנשים מחפשים פתרונות קלים וקיצורי דרך להסתמך עליהם בחוויית פתרון בעיות. האתגר לאזן בין תמיכה ואמון טוטאלי בבינה המלאכותית שמסתמכת על נסיון מצטבר ונתונים לעומת הסתמכות על אינטואיציה חדשנות ופתרון בעיות ישנות בכלים חדשים
הפתרון הוא איזון זהיר והימנעות מחוויית התמכרות לסוג כזה של עוזר בקבלת החלטות רפואיות.
מאמר שמשאיר טעם של עוד .נושא חדשני שיידון עוד רבות שכן משלב דאגות שנוגעות לכולנו.תודה רבה על המאמר
מאמר חשוב שהוא קריאת השכמה לא רק לפיקוח ובקרה מצד המפתחים אלא גם לכולנו שנעזרים בצ'ט בכל שאלה רפואית ומתייעצים איתו, צריך לחשוב בצורה ביקורתית ובערבון מוגבל ולא להסתמך באופן עיוור
הבינה המלאכותית תלך ותשתפר כל הזמן, אבל את ההכרעה הסופית חייבים להותיר למוח האנושי המתמחה בכל תחום ספציפי.
בס"ד
מאמר מרתק ומעורר מחשבה לצד דאגה
בסוף זה חיי אדם שמונחים על הכף וזה יומרני שבוט יצליח לטפל ולתת מענה מלא ומיטיב זה בסדר לעזור בארגון המידע והכנה לטיפול
אבל ההחלטות הגורליות חשוב להשאיר לרופאים אנושיים ולא לבוט. לא לסמוך על הבוט יותר מידי להשתמש בזהירות כמה שאנחנו בדור שרוצים תשובה מהירה ולפעמים צריכים עזרה מיידית ראשונית ואין תורים למומחים בקופות חולים נדרשים לקבוע חודשים מראש אפילו חצי שנה מראש לחלק מהתחומים.
כך שלצד פריצת הדרך הטכנולוגית יידרשו לחקור ולשקול יותר לעומק את השימוש ומה קורה משפטית אם מישהו ניזוק ממה שהצ'ט כתב ושיקולי אתיקה ופרטיות המטופל.
תודה ענקית על השיתוף ובהצלחה רבה לך במחקרים.
נושא חשוב לדיון והעלאה למודעות לסדר היום הציבורי בעת כזאת שהבינה המלאכותית הולכת ומשתלטת ולוקחת תפקידים רבים
וחשוב לזכור מה מכונה מסוגלת ומה המוח האנושי
מעניין מאד, ומטריד. ואנחנו רק בתחילת הדרך של האירוע הזה שנקרא ai.
תודה.
לא במקרה יש כל כך הרבה מגיבים, וכנראה הרבה קוראים. הנושא של בינה מלאכותית מטריף את כולם.
הכתבה של ד"ר מיכל לביא מעוררת השראה וחשובה מאוד להעלאת מודעות לסוגיות שעולות מכניסתו של AI לתחומים שונים באורח החיים לייעול תהליכים.
לצד יתרונותיו של הבוט "עוזר רפואי" לקבלת מענה מהיר ומפורט על סוגיות בריאותיות שונות, רבים חסרונות של פגיעה בזכויות הפרט בשמירה על חיים וביטחון שלמות הגוף כאשר משתמש לוקח את ההמלצה כחוות דעת אמינה ומקצועית ולא מתייעץ עם רופא מומחה או רופא משפחה ועלול להזיק למצבו במקום לשפר ולשקם את עצמו.
יש לפעול תוך שיקול דעת ולשמור על אוכלוסיות מגוונות שנוטות להיסחף לכך לקחת בערבון מוגבל ותוך זהירות והקשבה לגוף ולנשמה.
תודה על הסקירה המעמיקה והלימוד על היבט משפטי.
ארגון הבריאות העולמי צריך לאסור על שימוש בבינה מלאכותית כקובעת אחרונה בענייני רפואה.
דבר אחד ברור
הבינה המלאכותית תקבל החלטות טובות יותר משרי הממשלה שלנו
אני חוששת הבינה המלאכותית תנבן את הפעלת המוח של רוב האולוסיה
מי שישלוט זה מיעוט קטן שידע לכוון את הבינה הזאת שהיא בסך הכל תוכנה מורכבת
מישהו יכול לחדור למערכות כזאת ולהנחות אתהבינה המלאכותית לתת תשובות הפוכות מהנחוץ ולהרוג המונים
מאמר שמעורר מחשבות
ואני מעלה סימן שאלה
נשמע מגולח אבל רציני
האם ליישום בינה מלאכותית ברפואה
יהיו בינות ברמת דוקטור
ואחרות ברמת פרופסור?
מאמר שמדליק מנורות אדומות.
אני חוזר לטקסט שלך מיכל, לקראת הרצאה שמעביר על אתיקה בבינה לצוותים קליניים.
מעבר לרהיטות והקוהרנטיות בהצגה של הטקסט, ומעבר לכך שהעולמות של הבינה כל הזמן מתעדכנים
הביקורת עדיין בתוקף, וראוי שכקלינאים בשטח נדע להיות רהוטים יותר ולהעביר את המסר הלאה למטופליםות שלנו.
תודה