אין זה חידוש לומר שהבינה המלאכותית משנה את פני הרפואה1: מאתרת גידולים וממצאים פתולוגיים בבדיקות דימות, מסייעת באבחון מוקדם של חולים בקבוצות סיכון, מתאימה תרופות למחלות באופן מדויק ואישי יותר, ועוזרת לרופאים בקבלת החלטות רפואיות. כך למשל, הבינה המלאכותית משמשת כיום לאיתור "עין סכרתית" – מצב רפואי מסוכן אשר חולי סכרת הם בעלי סיכון משמעותי ללקות בו, ואשר אבחונו המוקדם קריטי לטיפול ולמניעת עוורון; הבינה המלאכותית "עוברת" על מידע רפואי ביחידת הטיפול הנמרץ, ומסייעת לאתר את החולים שעומדים להידרדר; הבינה המלאכותית "מסמנת" שומות הנחשדות כממאירות בצילומים, ואף מסייעת לנתב מטופלים בבית החולים לחדר המיון או בתוכו.

ככל שכמות השימושים בבינה המלאכותית מתרחבת, והיקף החדירה לתהליך האבחון והטיפול הרפואי גדל, כך גם מתחדד הצורך בגיבוש מסגרת רגולטורית מתאימה להסדרתה, לנוכח המורכבות הייחודית לה.

כך למשל, שימוש בטכנולוגיה של בינה המלאכותית מעלה חשש להעמקת האפליה לרעה בקבלת החלטות רפואיות לנוכח ההטיות המצויות במאגרי מידע רפואיים. זאת ועוד, עולה קושי בקבלת החלטות רפואיות במצב של "קופסה שחורה", בו אין זיקה ברורה בין המידע המוזן (למשל רשומות רפואיות של כלל המטופלים באותו מצב) לבין התובנה הסופית (למשל, המלצה לטיפול מסוים). ואם נוסיף לכך גם את המורכבות שבבדיקת מתמשכת של אלגוריתם "לומד", שמסוגל להפיק תוצרים שונים במצבים דומים, נמצא כי הקטגוריות המשפטיות הקיימות, אינן מספקות מענה הולם לטכנולוגיה מורכבת זו.

כיום, מוצרים ואביזרים רפואיים, ובהם גם בינה מלאכותית, נבחנים בישראל לפי הקטגוריות המשפטיות המסורתיות הקיימות (רגולציה של ציוד רפואי, תכשירים וכדו'), זאת בהעדר רגולציה מחייבת ייעודית, המתייחסת למאפיינים המיוחדים של טכנולוגיה זו. לשם ההשוואה, בארה"ב, ה- FDA עושה צעדים ראשונים בהסדרה של המאפיינים המיוחדים של הבינה המלאכותית, ובכלל זה פיילוט לאישור מראש למוצר בינה מלאכותית שישתנה ו"ילמד" במהלך חיי המוצר, תוך בקרה ומעקב.

במקביל, גופים רגולטורים אמריקאים ואירופאיים מפרסמים הנחיות והמלצות בלתי מחייבות ביחס לבינה מלאכותית, אשר לא מן הנמנע שיהפכו מחייבות בהמשך הדרך וישפיעו על הרגולציה הישראלית.

אז על מה צריך לחשוב כשמפתחים מוצר מבוסס בינה מלאכותית ומבקשים לשלב אותו בטיפול הרפואי?

ככל שמפתחים תוכנה שנועדה לשימוש בטיפול רפואי או ציוד רפואי יש צורך לענות על הדרישות הרגולטוריות הנוגעות לציוד רפואי. תשומת הלב כי ההגדרות הרגולטריות של ציוד רפואי, ותוכנה כציוד רפואי מורכבות ומשתנות, ולכן חשוב לבדוק זאת.

בנוסף, יש להבטיח עמידה ברגולציה של הגנת הפרטיות בשימוש שנעשה במידע הרפואי לשם פיתוח המוצר (ראו למשל, פוסט קודם) ובמהלך פעולתו של המוצר, אשר ימשיך לאסוף מידע לשם ניתוחו והפקת תובנות.

יש לבחון האם יש השימוש במוצר סותר רגולציה קיימת, כמו פקודת הרופאים הקובעת, כי רק רופא מורשה רשאי לבצע פעולות המהוות עיסוק ברפואה. מכאן ששימוש בבינה המלאכותית עבור פעולות רפואיות מסוימות יהיה חייב להתבצע בכפוף לשיקול הדעת של הרופא ולהחלטתו. הדבר מעלה שאלות: האם הרופא רשאי לקבוע מתחם פעולה, בו הבינה המלאכותית "תחליט"; האם כל "המלצה" של בינה מלאכותית צריכה לעבור לאישור הרופא; האם היכולת של רופא לפקח על המערכת ולעצור אותה בזמן אמת - מספקת. לכך, נוסף החשש שיטען בעתיד כי יש בכך כדי סטייה מפרקטיקה מקובלת, שיכולה לעלות כדי רשלנות רפואית.

בנוסף, מההנחיות הבלתי מחייבות שפורסמו בתחום הבינה המלאכותית, עולים מספר עקרונות אשר עשויים להתבסס בהמשך כתקינה או כרגולציה מחייבת. להלן נמנה את המרכזיים שבהם.

שקיפות – יש לתעד את הרכב מאגר המידע, ואת הדרך שבה הבינה המלאכותית מגבשת את התוצרים שלה על מנת למנוע הטיות. יש להשיב על השאלות הבאות: מה מקור המידע ואיך נעשה עיבוד המידע? איך פותח האלגוריתם ואיך הוא תוקף? איך פועלים מרכיבי האלגוריתם יחד? איך האלגוריתם מייצר את תוצאותיו?

הסברתיות – יש לספק הסבר ביחס לאופן פעולת המוצר, איזה סוג מידע הוא מעבד, מה המשמעות שלו, מה המגבלות שלו ומהי דרך קבלת "ההחלטות" שלו. ההסבר צריך לאפשר לרופא להבין את פעולת המוצר בעצמו, וכן לאפשר לו להסביר זאת למטופל.

הגינות - יש לוודא כי המוצר מתוקף כנדרש, כך שלא תיווצר אפליה לרעה; יש להקפיד לבדוק הן את המידע עליו התאמן האלגוריתם, והן את התוצרים, על מנת למנוע אפליה לרעה של אוכלוסיות מוחלשות.

טכנולוגיה מדוייקת, מהימנה ומאובטחת היטב – המערכת צריכה להיות מדויקת, מהימנה, ומאובטחת, כך שניתן יהיה לשחזר את תוצריה, לתקן טעויות או להתריע מפניהן, ולמנוע מניפולציה או פגיעה במטופל.

מנגנוני פיקוח ובקרה, וכן הצורך בפיקוח אנושי - יש לוודא כי קבלת החלטות בתחום הטיפול הרפואי נותרת בידי האדם כמפורט לעיל, וכי הוקמו מנגנוני פיקוח ובקרה על מנת לאתר טעויות בזמן אמת ולתקנן.

הגנה על זכויות המטופל - כלל ההנחיות מתייחסות לחשיבות כיבוד זכויות האדם ולהשפעה של המוצר על שלמות גופו של אדם, זכותו לפרטיות ועל האוטונומיה של האדם בקבלת ההחלטות הנוגעות אליו.

כפי שניתן לראות מדובר בעקרונות כללים; בהמשך, נפרסם הצעה הפורטת עקרונות אלה לכלים פרקטיים לפיתוח ולשימוש במוצרי בינה מלאכותית בתחום הרפואה.

סיכום

כל טכנולוגיה חדשה מאתגרת את הרגולציה הקיימת. חשוב לתת את הדעת כבר בשלב התכנון ופיתוח המוצר להתפתחויות שיכולות להשפיע על אישור המוצר והשימוש בו. תכנון נכון מראש ימנע חסמים בהמשך הדרך ויביא בסופו של יום למוצר בטוח וטוב יותר לטיפול הרפואי במטופל.

Footnotes

1. לסקירה מעמיקה של ההיבטים המשפטיים של הבינה המלאכותית בתחום הרפואה, ראו: קידר, רואי, ותבורי, תמר, "היבטים משפטיים ורגולטוריים של בינה מלאכותית ברפואה", טכנולוגיות מתפרצות: אתגרים בדין הישראלי (עורכים: ליאור זמר, דוב גרינבאום ואביב גאון), נבו, 2021 (טרם פורסם)

2. Heidi Ledford "Millions affected by racial bias in health care algorithm." Nature 31, Oct. 2019

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.