חוק ה-AI של אילינוי

בחודש יולי אילינוי העבירה חוק חדש ומקיף לבטיחות בינה מלאכותית – SB 315.

מה החוק קובע?

החוק חל על מפתחי מודלי AI גדולים – כאלה שהכנסותיהם השנתיות עולות על 500 מיליון דולר ושאימנו את המודלים באמצעות עוצמות מחשוב גבוהות.
הוא מחייב אותם לקבוע ולפרסם מסגרת לניהול סיכונים, לזהות ולהעריך סיכונים קטסטרופליים, ולדווח לרשויות בתוך 72 שעות על אירועים שעלולים לגרום לנזק משמעותי, או בתוך 24 שעות אם נשקפת סכנה מיידית לחיי אדם או לפגיעה גופנית חמורה.

בנוסף, המפתחים חייבים לעבור ביקורת שנתית על-ידי גוף חיצוני ועצמאי שיבחן את עמידתם במסגרת ניהול הסיכונים שפרסמו.

זו הפעם הראשונה בארצות הברית שנקבעת בחוק חובה לביקורת עצמאית שנתית מסוג זה.

החוק מתמקד בסיכונים החמורים ביותר שעלולים לנבוע ממודלי AI מתקדמים, כמו סיוע בפיתוח נשק כימי, ביולוגי או גרעיני, ביצוע מתקפות סייבר רחבות היקף ואירועים אחרים שעלולים לגרום לנזק משמעותי לציבור.

החוק ייכנס לתוקף ב-1.1.2028, וחברות שיפרו אותו צפויות לקנסות של עד מיליון דולר על ההפרה הראשונה ועד שלושה מיליון דולר על הפרות חוזרות.

ניתוח

החוק של אילינוי הוא ניסיון מעניין להתמודד עם סיכוני בלי לבלום את הטכנולוגיה. במקום רגולציה רחבה על כל מערכת AI, הוא כולל שלושה מעגלי מיקוד: בקבוצת המפוקחים, בקבוצה של מודלים בעלי פוטנציאל השפעה חריג ובתרחישים של נזק קטסטרופלי.
עצם המיקוד הוא בחירה נכונה שמגדילה את הסיכוי שהרגולציה תצליח, ומקטינה את הסיכון להשפעות שליליות.

הדרישה שמפתחי המודלים יגבשו מסגרת ניהול סיכונים וימדדו על העמידה בה היא דוגמה ליישום של רגולציה מסוג תקן ניהול. הסברתי בעבר למה זה סוג הרגולציה שמתאים לאתגרים שמאפיינים בינה מלאכותית.

אבל כמה מההסדרים מעלים שאלות. הדרישה לביקורת שנתית של גוף חיצוני היא חידוש משמעותי, אבל עדיין לא ברור עד כמה היא תהיה אפקטיבית. כיום אין סטנדרטים מקצועיים מקובלים להערכת בטיחות של מודלי AI מתקדמים, ולכן קיים חשש שהביקורות יהפכו לתרגיל של סימון וי במקום להערכה מהותית של הסיכונים. זה פתח לתוספת בירוקרטיה בלי תועלת מהותית.

התמונה מורכבת גם מבחינת שיקולי עלות-תועלת. עבור החברות הגדולות העלויות כנראה יהיו נסבלות. אבל דרישה לביקורות שנתיות, דיווחים שוטפים ובניית מנגנוני ציות יוסיפו עלויות לא מבוטלות. קיים סיכון שהדרישות האלו ימנעו משחקנים חדשים להיכנס לשוק ויתרמו לריכוזיות ההולכת וגדלה שלו.

לצד זאת, יש יתרון משמעותי לכך שהמחוקק באילינוי בחר במודל גמיש שניתן לעדכן לאורך זמן. בעולם שבו הטכנולוגיה משתנה במהירות, זו בחירה ראויה לא לנסות לקבוע כללים מפורטים שעלולים להתיישן בתוך שנים ספורות. גם אם החוק לא מושלם, הוא יוצר מנגנון פיקוח גמיש יחסית.

הזוית הרחבה

כיום שלוש מדינות בארה"ב משרטטות בפועל את מדיניות ה-AI של המדינה כולה, בלי חקיקה פדרלית.

אחרי קליפורניה וניו יורק, אילינוי היא השלישית שנכנסת למשחק. לדברי יוזמי החוק באילינוי, ביחד שלוש המדינות מייצגות כ-40% משוק ה-AI האמריקאי. כיום כשחברות כמו OpenAI ו-Anthropic רוצות לפעול, הן לא יכולות להתעלם מהכללים החדשים. כך נוצר בפועל סטנדרט כמעט לאומי עבור כל ארה"ב, בלי שהקונגרס העביר חוק אחד.

זו תופעה מעניינת במדיניות רגולציה – לפעמים מספיקה מאסה קריטית שרחוקה מ-100% כדי להשפיע על כלל השוק.

עוד נקודה מעניינת היא התמיכה הרחבה שקיבל החוק. למרות שחברות הטכנולוגיה מעדיפות מסגרת פדרלית אחידה, גם OpenAI וגם Anthropic תמכו במהלך. הן מבינות שלעיתים רגולציה ברורה עדיפה על חוסר ודאות. ואני משער שהמודל הגמיש הוא אפשרות עדיפה מבחינתן ולכן הן שיתפו פעולה.

החוק החדש של אילינוי אולי לא מושלם (והיעדר רגולציה פדרלית אחידה הוא מצב לא רצוי), אבל יכול להיות שהוא צעד נכון בכיוון הנכון – מייצר כללי משחק ברורים, מבסס את האמון ומאפשר לחדשנות להמשיך להתפתח.