קליפורניה מנסה לקבוע רגולציה על AI – ונחסמת

מה קורה כשרגולטור מנסח רגולציה חדשה – ואז מקבל פניה מהמושל שמבקש לחשב מסלול מחדש?
זה בדיוק מה שקרה החודש בקליפורניה.

סוכנות הגנת הפרטיות של קליפורניה (CPPA), הגוף הראשון בארה"ב שהוקם כדי לאכוף זכויות פרטיות, התחילה לקדם רגולציה נרחבת על מערכות קבלת החלטות אוטומטיות (ADMT). היו בה הגדרות רחבות, חובת הערכות סיכונים, חובת דיווחים ועוד.

אבל אז מושל קליפורניה, גאווין ניוסאם, הביע דאגה שהרגולציה "חורגת מהסמכות", עלולה "ליצור תוצאות בלתי רצויות" ו"תטיל עלויות כבדות שיאיימו על החדשנות הטכנולוגית של קליפורניה".
זה קרה אחרי פנייה שהגיעה גם מבית המחוקקים של קליפורניה כשברקע היה שיח מאחורי הקלעים בין לשכת המושל לבין ההנהלה של ה-CCPA.

והרגולטור הקשיב.
ב-4 באפריל, הסוכנות הודיעה על עצירה, בחינה מחדש וכנראה צמצום משמעותי של ההצעה.

אז מה ה-CPPA רצתה לקבוע?

– חובת גילוי לצרכנים – עסקים היו צריכים להודיע לציבור על שימוש באלגוריתמים בקבלת החלטות.
– זכות לערעור – צרכנים יכלו לדרוש בחינה אנושית של החלטות אוטומטיות.
– הערכת סיכונים – חובה לבדוק מראש איך השימוש בטכנולוגיה ישפיע על פרטיות וביטחון אישי.
– הגדרה רחבה של "החלטה משמעותית" – כל פעולה עסקית כמעט נחשבה ככזו.
– בדיקות סייבר שנתיות – כל עסק גדול נדרש לדוחות אבטחה מלאים.
– רגולציה על פרסום מותאם אישית – גם אלגוריתמים של פרסום נחשבו ADMT.

מה כנראה צפוי להשתנות?

– צמצום התחולה – רק החלטות קריטיות כמו אשראי או טיפול רפואי ייחשבו ADMT.
– הסרת פרסום מותאם אישית – פרסום לא ייחשב כקבלת החלטות אוטומטית רגולטורית.
– הקלה בהערכת סיכונים – רק שימוש בפועל בטכנולוגיה, לא שלב הפיתוח, ידרוש הערכה.
– פישוט דיווחים – סיכומים קצרים במקום דוחות מפורטים שנתיים.
המהלך הזה מבטא גישה רגולטורית מבוססת ניהול סיכונים: רגולציה שלא פוחדת מבינה מלאכותית, אלא שואלת – האם ואיפה יש סיכון ממשי שדורש התערבות?

ומה עם הדמוקרטיה?

האירוע הזה מעורר שאלה עמוקה על יחסי דרג נבחר ודרג מקצועי.
יש מי שיטענו שזו פוליטיזציה מסוכנת, בדיוק כמו הביקורת על טראמפ, שמנסה להתערב בעבודת הרגולטורים בארה"ב. אבל המציאות יותר מורכבת. הדרג המקצועי מביא מומחיות, אבל הדרג הנבחר נושא באחריות הציבורית.
לרגולטורים יש תפקיד מקצועי חשוב, אנחנו לא חיים בטכנוקרטיה. במדינה דמוקרטית, הדרך של הציבור להשפיע – היא דרך נבחרי הציבור.

המושל של קליפורניה לא דרס את הרגולטור – הוא דרש דיוק, מידתיות והתאמה לנסיבות. זו לא "התערבות" לרגולטור – זו מימוש אחריות דמוקרטית. ודווקא ה"התנגשות" הזו בין רמות השלטון מייצרת מדיניות רגולציה מאוזנת יותר.

אז מה אפשר ללמוד מזה?

– רגולציה לא נמדדת בכמה היא מחמירה, אלא במכלול ההשפעות שלה.
– לא כל טכנולוגיה היא סכנה. אבל חדשנות היא לא פטור גורף מניהול הסיכונים.
– ומעל הכול – רגולציה טובה יכולה להיווצר גם מאיזון ושילוב נכון בין מומחיות לבין אחריות ציבורית.