הגשתם תביעה לבית משפט. ביום הדיון אתם נכנסים לאולם בית המשפט, ובמקום שופט – יושב מחשב שדן בתיק ונותן פסק דין.

נשמע דמיוני?

בישראל תביעות קטנות (עד כ-30,000 ₪) מתנהלות בהליך מהיר יחסית – פסק הדין ניתן תוך חצי שנה בממוצע. אבל כל שעה ששופטת מקדישה מזמנה לתיקים הללו זו שעה שהיא לא מטפלת בתיקים אחרים, גדולים ומורכבים יותר.

אולי בעתיד זה יראה אחרת. באסטוניה מבצעים עכשיו פיילוט שבו חוקרים מנסים לפתח שופט-רובוט שיכריעו בתיקים של עד 7,000 אירו.

הפרויקט עדיין בתכנון ראשוני. בשלב הראשון השופט-רובוט יתמקד בסכסוכים חוזיים: שני הצדדים יעלו מסמכים, והשופט-רובוט יפסוק מי מהם צודק. ערעורים יוגשו לשופט אנושי.

שילוב בינה מלאכותית במערכת המשפט הוא לא רעיון חדש. במדינות רבות בארצות הברית משתמשים שופטים פליליים בתוכנות לחיזוי רמת המסוכנות של חשודים או נאשמים, לצורך החלטה על הארכת מעצר, גזירת עונש ואף להכרעות דין. השימוש באלגוריתמים מעורר מחלוקת עצומה אבל כיום הם רק כלי תומך החלטה וההחלטה הסופית היא בידי השופט. הפיילוט באסטוניה לוקח את זה צעד קדימה את האלגוריתם במרכז.

כשהרגולטור הוא רובוט

בפוסטים הקודמים דיברנו על רגולציה שתפקח על בינה מלאכותית. הפעם נדבר על הצד השני של המשוואה: שימוש של רגולטורים בבינה מלאכותית .

נדמה שעולם המשפט והרגולציה הם זירה קלאסית עבור החלטות ממוחשבות. בדומה לתוכנות מחשב, גם הרגולציה בנויה מכללים של if-then, זאת אומרת: "אם אדם עשה X, יש לעשות Y".

תחום הטכנולוגיות הרגולטוריות (RegTech) והפיקוחיות (SupTech) נמצא בשלבים מוקדמים, אבל הוא הולך ומתפתח. התקווה היא שנוכל להשתמש בטכנולוגיה כדי ליישם את הרגולציה באופן יעיל, אחיד ושוויוני יותר. הנה מספר דוגמאות מהשנה החולפת:

(1) הסוכנות להגנת הסביבה האמריקאית (EPA) הודיעה שהיא בוחנת הסתמכות על מודל מבוסס-למידת מכונה לצורך בדיקת רעילות של חומרים כימיים, שעשוי להחליף ניסויים בבעלי חיים.

(2) הרגולטורים הפיננסיים בבריטניה (BoE ו-FCA) נמצאים בשלב השני של פיילוט עם קונסורציום של בנקים לבניית מערכת לדיווחים אוטומטיים על ידי מחשבים, שתייתר את הצורך בגורם אנושי שיכין את הדיווח.

(3) חוקרים מציעים לרגולטורים להשתמש בכלים להבנת טקסט כדי לשפר את המעבר על הערות בתהליכי שיתוף ציבור. אלו תהליכים חשובים אך ככל שהציבור מגיב יותר – הם הפכים ליותר מסורבלים.

השימוש בבינה מלאכותית לצרכים שלטוניים יכול להתבצע בכמה רמות – מכלי עזר לביצוע משימות טכניות ועד לקבלת החלטות ללא שום התערבות אנושית. אוטומציה מלאה של החלטות שלטוניות היא אולי התרחיש המפחיד ביותר: פתח לעריצות, שרירותיות, הפליה וחוסר שקיפות על ידי ממשלות ורשויות מינהליות. הדוגמה הקיצונית ביותר כרגע היא מערכת האשראי החברתי בסין: החלטות כמו דירוג האשראי של אזרח או הכנסה לרשימה שחורה של סנקציות עשויות להתקבל על ידי אלגוריתם.

צדק חישובי

אבל יכול להיות שאלגוריתמים יכולים לעזור לנו להפוך החלטות שלטוניות לשקופות וצודקות יותר.

צוות חוקרים מכמה אוניברסיטאות בארה"ב ניסה לבדוק אם ניתן להשתמש באלגוריתמים כדי לצמצם הטיות קוגניטיביות. אחד המחקרים שלהם מתמקד בסוג מסוים של החלטות שמשפיעות על חיים של מיליוני איש מדי שנה: שחרור נאשמים ממעצר. ההחלטה אם לשחרר אדם ממעצר מבוססת על הסיכון שלא יתצייב למשפט ועל רמת המסוכנות שלו (הסיכון שיבצע הפרה נוספת). זו למעשה בעיית חיזוי: השופט נדרש להעריך, על בסיס המידע הקיים, מהו הסיכוי של התרחישים הללו.

החוקרים בנו מסד נתונים של 758 אלף בני אדם שנעצרו בעיר ניו יורק בשנים 2008 עד 2013 ואימנו אלגוריתם. האלגוריתם בעצם למד לחבר בין מידע שהיה לשופט (עבר פלילי וסוג העבירה הנוכחית) לבין התוצאה לאחר מכן (האם ברח או חזר לבצע עבירות). המטרה הייתה שהאלגוריתם יידע לחזות אילו משתנים מנבאים סיבה להארכת מעצר. לאחר מכן הריצו אל האלגוריתם על מקרים אמתיים אחרים.

המחקר הראה יתרון מובהק למודל האלגוריתמי בחיזוי רמת המסוכנות של נאשמים. השימוש באלגוריתם היה יכול להפחית את שיעור הפשיעה ב-24% ולשמור על אותו שיעור מעצרים. לחלופין, האלגוריתם היה יכול להפחית את שיעור המעצרים ב-42% ועדיין לשמור על אותה רמת פשיעה. המשמעות היא שבאמצעות קבלת החלטת ממוחשבת, אפשר היה למנוע אלפי עבירות מבלי לשלול חירות של אדם אחד נוסף, או להקטין את הפגיע בחירות הפרט. אלגוריתם כזה יטיב בעיקר עם קבוצות של מיעוטים, שנעצרים ונכלאים בשיעורים גבוהים.

לפי החוקרים, ההסבר לחוסר הדיוק של שופטים בחיזוי מסוכנות הוא מתן משקל עודף לעבירה הנוכחית של הנאשם והתעלמות מהעבר הפלילי. זה ביטוי של הטיית הזמינות (availability bias) – נטייה להפריז בערכם של אירועים מהעת האחרונה.

יותר אלגוריתמים – יותר שקיפות

קאס סנסטיין, לשעבר מנהל OIRA ומחבר הספר Nudge יחד עם חתן פרס נובל לכלכלה ריצ'רד תיילר, סבור שיש פה לקח רחב יותר. אנחנו חוששים מאוד שאלגוריתמים יקבלו החלטות מוטות. אבל אנחנו שוכחים שבני אדם עושים בדיוק את אותו הדבר – מקבלים החלטות מוטות, לא רציונליות ולא עקביות. שימוש זהיר בבינה מלאכותית יכול לעזור לנו להתגבר על הכשלים שלנו ולשפר את איכות ההחלטות הציבוריות.

עוד יתרון הוא במדידה. אם נשתמש באלגוריתמים נוכל לבדוק מראש ובדיעבד את התוצאות של החלטות שונות. למשל, לבחון איזה השפעה תהיה למדיניות שמנסה לשפר את מצבם של קבוצות מיעוט ואפילו לכמת את העלויות והתועלות לחברה. למשל, נוכל לדעת בכמה אחוזים תעלה הפשיעה אם נבקש מהאלגוריתם להוריד את שיעור המעצרים, או עד כמה תשתנה הרמה האקדמית אם נרצה לבצע העדפה מתקנת של סטודנטים מקבוצות לא מיוצגות.

בטווח הארוך, ייתכן שהשימוש בבינה מלאכותית יכול להפוך ממקור להטיות – לכוח חיובי שיאפשר לממשלה לרגולטורים לקבל החלטות טובות, שקופות ואיכותיות יותר.

כאן אנחנו מסיימים את סדרת הפוסטים בנושא רגולציה ובינה מלאכותית. התובנה המרכזית שאנחנו מציעים לקחת היא שטכנולוגיות מהפכניות מאתגרות את המערכת הקיימת ולכן הן מחייבות פיתוח ועדכון של מדיניות הרגולציה.

מקווים שהיה לכם מעניין, אנחנו נהננו.

__

סדרת הפוסטים בנושא AI (כמו גם הפוסט הזה) נכתבה יחד עם עו"ד עדן לנג. עדן הוא עורך דין ברשות ניירות ערך ומתמחה ברגולציה פיננסית וטכנולוגיה. הדעות המובעות הן שלו בלבד ולא מייצגות בהכרח את עמדת הרשות.