הרגולציה של מדינת ניו יורק על תמחור מבוסס AI

מדינת ניו יורק קבעה חוק קטן, עם מסר גדול

לפי החוק, אם חברה קובעת את המחירים בעזרת אלגוריתם שמשתמש בנתונים האישיים של הצרכן – היא חייבת להגיד את זה בצורה ברורה.

החוק קבע את הנוסח שצריך לגלות:
“this price was set by an algorithm using your personal data.”

אגב, החוק הזה נוגע לסוגיה מהותית שקדמה ל-AI: תמחור פרסונאלי ואפליית מחירים.  כתבתי עליה כאן.

עד היום ראינו המון הצעות לרגולציה ורגולציה בפועל שניסו לקבוע מגבלות מהותיות – מה מותר ומה אסור, אילו תהליכים צריך לבצע ואילו מערכות נחשבות מסוכנות.
אבל כשמדובר בטכנולוגיות חדשות, מרחב הטעות שלנו גדול ולכן צריך להיזהר.

זו הסיבה שהחוק של ניו יורק מוצא חן בעיני. שימו לב מה החוק לא עושה: הוא לא נכנס לקוד, לא מציב דרישות ולא מחייב שום תהליך בירוקרטי.
הוא רק דורש שקיפות ברורה לצרכן. גם שימו לב שזו לא רגולציה על הטכנולוגיה אלא על היישום, על אופן השימוש. במובן הזה – זו רגולציה יחסית ניטרלית טכנולוגית – וזה דבר חיובי.

בעיני זה מהלך רגולטורי מרענן. אחרי כל כך הרבה הצעות לרגולציה מקיפה וחודרנית, וכמובן חוק ה-AI האירופי – סוף סוף חוק צנוע.

לפני שמתחילים לחפור בתוך האלגוריתם – מתחילים בשקיפות.
זה פחות מגביל טכנולוגית, פחות סיכון לתוצאות שליליות מהרגולציה והרבה יותר פשוט ליישם ולאכוף.

זו גישה רגולטורית שלא נכנעת ללחץ או לפחד ("פגיעה בפרטיות!").
מידע גם מעצים את הצרכן במקום להניח שהוא חלש ויישאר חלש.

החוק הזה מזכיר לנו שלעיתים קרובות הפתרון הנכון הוא הפתרון המינימלי, ולא המקסימלי.