מי מקבל החלטות טובות יותר – אדם או מכונה?

אנחנו מסתמכים יותר ויותר על טכנולוגיה. זה התחיל ממכונות תעשייתיות, מכונות כתיבה, מחשבים, תוכנות ועכשיו – בינה מלאכותית. וכשאדם משתמש במכונה שתעשה בשבילו חלק מהעבודה, זה מעורר שאלה קשה – מה התפקיד שלי אם המכונה יכולה לבצע את המשימה?

השאלה הזו עלתה כשמכונות לטווייה ואריגה החליפו עובדים במפעלים לפני 200 שנים. אבל כחברה אמרנו לעצמנו – אמנם בני אדם לא יבצעו את הפעולה הפיזית של האריגה, אבל הם יחליטו מה יעשה.

הבעיה היא שכאשר אנחנו נכנסים לעידן של בינה מלאכותית, המכונות מחליפות אותנו במשימות של תפקוד גבוה. במילים פשוטות – המכונות לא רק מבצעות פעולות, הן גם מחליפות אותנו במשימות מעולם החשיבה וקבלת ההחלטות. וזה מעורר את השאלה – מה תפקידנו כבני אדם, ומה רצוי – שאדם יקבל החלטה או שמכונה תקבל החלטה?

אלגוריתמים: הרעיון שלא נכתב

לפני בערך שלוש שנים היה לי רעיון שרציתי לכתוב עליו, אבל הוא לא הבשיל. בגדול, רציתי לטעון שכמו שמכונות מגיעות למסקנות באמצעות אלגוריתמים, גם בני אדם חושבים ומקבלים החלטות באמצעות אלגוריתמים.

מה זה "אלגוריתם"?
הנה הגדרה אחת שמצאתי באינטרנט ואהבתי:

"Algorithm: a process or set of rules to be followed in calculations or other problem-solving operations"

בתרגום חופשי לעברית: "אלגוריתם הוא תהליך או סט של כללים לביצוע חישוב או לפתרון בעיה"

מבחינתי, זה יכול להיות ניתוח עלות-תועלת, זה יכול להיות סולם מוסרי, אלגוריתם קייזן (חיפוש היבטים קטנים שאפשר לשפר באופן מתמיד) וזו יכולה להיות העדפה לשמר את המצב הקיים ולהימנע ממהפכות.

ומה שרציתי לכתוב זה שבכל סוג של החלטה או ניתוח אנחנו צריכים לשאול את עצמנו מי יעשה את אותה משימה טוב יותר (מהר, טועה פחות, מדויק) – האם זה אדם או מכונה; ואם מכונה יותר טובה מאיתנו, עדיף לתת לה לבצע את המשימה.

היה לי ברור שזה רעיון פרובוקטיבי, מכל מיני בחינות.

אבל בעצם – למה? הרי זה קורה כבר עכשיו, בהמון תחומים.

מי מקבל את ההחלטות?

בשנתיים האחרונות, כשכלי AI פרצו לחיינו באופן מוחשי מתמיד, התברר לנו כמה רחבים יכולים להיות השימושים בכלים האלו. את המגמה הזו מלווה תנועה ביקורתית שמדברת על "The Right to a Human Decision". הם טוענים שיש (או שצריכה להיות) לנו זכות שהחלטות ביחס אלינו יתקבלו על-ידי אדם ולא על-ידי מכונה. הם לא היו אוהבים את הפוסט שתכננתי לכתוב לפני שלוש שנים.

זה קרה באופן מאוד בולט בעולם המשפטי. בשנים האחרונות יותר ויותר עורכי דין משתמשים בכלי AI: לניסוח טענות, לבדיקת חוזים ועוד. בתחילת שנת 2023 הגרסה החדשה (דאז) של ChatGPT עברה את מבחן ההסמכה (Bar) של לשכת עורכי הדין בארה"ב בציון מאוד מאוד גבוה. ואז עורכי דין רבים התחילו להבין שהגבול הולך ומטשטש: מה הגבול בין מצב שבו אני נעזר בכלי AI, לבין שכלי AI יקבל את ההחלטה? והאם ממבט מערכתי זה רצוי?

עורכי דין הם לא הדוגמה הראשונה שעולה לראש כשאנחנו חושבים על מקבלי החלטות. דוגמה יותר מובהקת היא שופטים. וב-2019 (לפני חמש שנים) במסגרת סדרת פוסטים על רגולציה ו-AI סיפרתי שבאסטוניה מבצעים פיילוט שבמסגרתו בית משפט לתביעות קטנות יופעל על-ידי מחשב שישמש כשופט. האם הייתם מוכנים להישפט על-ידי מחשב?

ומה לגבי מחשב שיחליט אם תקבלו רישיון, או מחשב שיחליט מי נדרש בכלל לרישיון?

הזכות (?) להחלטה אנושית

בזמן שבמדינות רבות עסקו בשנים האחרונות בשאלת הרגולציה על AI, בתקופת ממשל ביידן דנו בזכות להחלטה אנושית וכבר בשנת 2022 פרסמו מסמך שכותרתו "Blueprint for an AI Bill of Rights" – שרטוט כללי של מגילת זכויות האדם מול הבינה המלאכותית.

כותבי המסמך זיהו שבעתיד הקרוב החלטות משמעותיות יתקבלו על-ידי מכונות ולכן הם קבעו שלאנשים צריכה להיות הזכות לבחור שהחלטות בעיניינם יתקבלו על-ידי בן אדם ולא מכונה. למסמך עצמו אין מעמד מחייב, אבל זה מסמך מדיניות שמקדם את התפיסה וגם מהווה הצהרת כוונות.

באירופה, סעיף 22 של ה-GDPR (רגולציית הגנת הפרטיות) קבע במפורש את הזכות להחלטה אנושית: "The data subject shall have the right not to be subject to a decision based solely on automated processing".

אני חושב שהדרישה הזו מבטאת רומנטיזציה של החלטות אנושיות וגם מבטאת שמרנות מסוימת, כי מי שנמצא סביב שולחן קבלת ההחלטות גדל בעולם שבו לא הייתה בינה מלאכותית – אז קשה להם לקבל את השינוי שקורה עכשיו.

אני לא נגד הזכות הזו, אבל אני לא בטוח עד כמה הצידוקים חזקים.

האם צריכה להיות זכות לקבלת החלטה אנושית?

וכאן אני רוצה להישען על מאמר של פרופסור אמריקאי למשפטים בשם הוק (Huq) שעסק בשאלה הזו, הרבה לפני שה-GPT פרץ לחיינו בעוצמה.

הוק ניתח את הבעיות הפוטנציאליות במצב שהחלטות יתקבלו על-ידי מכונות. בעיות כמו הטיות, אפליה, היעדר שקיפות ועוד. והוא מראה שאותן בעיות יכולות ואף מתרחשות בפועל אצל מקבלי החלטות אנושיים.

אתן דוגמה מעשית: חפשו החלטת מדיניות (הגירה, מיסים, תקצוב או רגולציה) שפורסמו לאחרונה. לעיתים מקבל ההחלטות לא יפרסם את עבודת המטה שלו.
וגם אם כן – מה שיתפרסם לא יכיל את כל הנחות המוצא, את הנתונים שעליהם הוא התבסס או את מלוא השיקולים שלו. בעולם הבינה המלאכותית אנחנו מדברים על "בעיית הקופסה השחורה" – אבל נסו להיזכר בהחלטות של המנהל שלכם, של גורם אחר בארגון או של בעל תפקיד בממשלה שלא הצלחתם להבין למה הוא קיבל את ההחלטה שלו. זאת אומרת, יש פער שקיפות משמעותי גם אצל בני אדם. גם בעיות של הטיות קיימות אצל בני אדם. למעשה. אפשר לטעון שההטיות של מערכות AI נובעות בחלקן מהטיות זהות של בני אדם – האדם שאימן את המודל החזיק בתפיסה מוטה או החזיק במידע מוטה / שגוי / חלקי.

יש לי חשש שההעדפה של החלטות אנושיות היא הטייה אנושית שלנו לטובת המוכר, הטייה שהיא בעצם אחות של החשש מפני שינויים ומפני אי הוודאות בעתיד.

הוק לא טוען שמכונות הן מושלמות, אלא שאין מספיק ביסוס לטענות שמקבלי החלטות אנושיים טובים יותר: “it is not clear that complaints about the greater impenetrability of machines compared to humans are well-founded”.

הוק מסכם שההבדלים בין החלטות אנושיות להחלטות של מכונות הם פחות חדים ממה שלפעמים נדמה לנו. הוא רומז שלפני שנחליט על זכות להחלטות אנושיות, אנחנו צריכים לבצע השוואה כלשהי בין שני הסוגים ולבסס את הטענה שהחלטה אנושית היא עדיפה (או עדיפה לאזרח שהוא מושא ההחלטה).

וכאן מגיע אלמנט נוסף – לא מה מצב הבסיס (מי מקבל החלטות טוב יותר, או מי עושה פחות טעויות), אלא אילו שגיאות קל יותר לזהות, לתקן או לצמצם עם הזמן.

הזכות לנהג אנושי

אני חושב שהדוגמה הקלאסית היא רכב אוטונומי. מעל 90% מתאונות הדרכים נגרמות בגלל טעות אנוש (הסחת דעת, נהיגה בשכרות, אגרסיביות, עייפות וכו'). החלפת הנהגים ברכב אוטונומיים עשויה לצמצם באופן דרסטי את תאונות הדרכים ואת מספר ההרוגים והפצועים.

מצד שני, אין ספק שהרכב האוטונומי הראשון היה נהג די גרוע. אבל כלל שהוא נוסע יותר – הוא משתפר (ולכן צריך לבצע ניתוח דינמי, או לפחות לחזור ולעדכן את המדיניות בעתיד).

האם ניתן לטעון שיש לי זכות שהרכבים סביבי יופעלו על-ידי נהגים אנושיים? ונניח שכן (ונתעלם משיקולים פרקטיים של יישום), האם אני רוצה לדרוש את זה?

ואולי צריכה להיות זכות הפוכה – זכות לקבלת החלטות ממוחשבות. אם רכבים אוטונומיים בטוחים משמעותית יותר מנהגים אנושיים – אולי צריכה להיות לי הזכות לדרוש שהרכבים סביבי יופעלו עלי-די מכונה ולא נהג אנושי.

הדוגמה של הנהגים ממש לא מושלמת והיא לא מדמה מספיק טוב החלטות ממשלתיות (כמו החלטה האם לאשר לי להקים עסק, החלטה על המס שאני צריך לשלם או באיזה בית ספר לשבץ את הילדים שלי או החלטה בערעור על השיבוץ).

העיקרון מאחורי השאלה

לדעתי, כדי לענות על השאלה הזו צריך ללכת עוד צעד אחורה ולהבין על מה אנחנו מתבססים.

אפשרות אחת היא שמדובר בטענה ערכית , שצריכה להיות לאדם זכות שהחלטות בעניינו (כולן או חלקן) יתקבלו על-ידי אדם אחר. זה קצת כמו שבבריטניה ובארה"ב יש זכות להישפט על-ידי חבר מושבעים שמורכב מאזרחים אחרים ("jury of your peers"). העמדה הזו מנותקת מהשאלה מי היה מקבל את ההחלטה טוב יותר (חבר מושבעים או שופט, אדם או מכונה). זו הזכות.

אפשרות שניה היא פרקטית ותועלתנית יותר – מאחר שמכונות לא מקבלות החלטות באופן מושלם, צריכה להיות לאדם זכות לקבל החלטה אנושית, וזאת כדי להבטיח החלטות טובות יותר. לפי החלופה הזו, אין ביסוס לזכות היכן שמכונה מקבלת החלטות טובות יותר מבני אדם.

אני נוטה יותר לחלופה השניה. אבל זה יושב על רעיון יותר עמוק. אנחנו צריכים לשאוף לקידמה ולהתקדמות. ובהקשר הזה אנחנו צריכים לשאוף למכונות שיעזרו לנו לקבל החלטות טובות יותר. אם יש מכונה שמקבלת החלטות יותר טוב מבני אדם – אני רוצה שהיא תקבל את ההחלטות (בכפוף לבקרה, פיקוח וכו').

באופן כללי, אני חושב שצריכים להיות לנו שני עקרונות מנחים:

1. שיפור הרווחה של הציבור – אנחנו צריכים לעשות מה שמשפר את איכות חייהם של הציבור, ובפרט לוודא שהחלטות עושות יותר טוב מרע.
2. שיפור מתמיד – אנחנו צריכים לנסות להשתפר כל הזמן. זה אומר שאנחנו נשאף לשפר את הטכנולוגיה כדי שמחר היא תהיה יותר מדוייקת ממה שהיא היום. אבל – ואת זה אסור לשכוח – אנחנו גם צריכים לראות איך אנחנו משתפרים כבני אדם. למשל, להשקיע בהכשרות של מקבלי החלטות, כדי שהם יהיו טובים יותר בעתיד.

לצד העקרונות האלו, אנחנו צריכים להשקיע בפרטים ובמכניזם פרקטי שיאפשרו מחקר, פיתוח ושימוש בטכנולוגיה חדשה.
זה לא סוף הדיון. אנחנו רק מתחילים.