חוק ה-AI של אירופה מתקדם

ברייקינג ניוז:
נציבות האיחוד האירופי והפרלמנט האירופי הגיעו להסכמה על חוק ה-AI של האיחוד האירופי. המשמעות היא שהחוק צפוי להפוך לעבור סופית בשבועות הקרובים.

כתבתי על טיוטת החוק כאן.


עדיין אין נוסח סופי אבל ממה שהתפרסם, נראה שאלו השינויים המרכזיים בהשוואה לגרסה הקודמת שפורסמה בקיץ:

1. הוחלט להשמיט את האיסור הכללי על ניטור ביומטרי על ידי רשויות אכיפת החוק. בטיוטה שעברה בקיץ היה איסור מוחלט וגורף, שלמשל חסם שימוש בטכנולוגיות זיהוי פנים. האיסור הגורף – כולל במקרים של מלחמה בטרור – זכה לביקורת חריפה.

2. דיוק ושיפור הבדיקה של מערכות בסיסיות (foundation model, כמו chat gpt). חלק מהדרישות יחולו כבר בשלבי הפיתוח של אותן מערכות. זה משמעותי כי רוב ההוראות של החוק חלות על מוצר טכנולוגי מוגמר ועל השימוש בו. ההוראות החדשות יחולו על שלב הפיתוח. אני מעריך שזה יעורר שאלות, כמו – מה קורה אם כשהחוק יעבור יהיו כבר מוצרים שנמצאים בשוק והפיתוח שלהם הסתיים? וגם – איך מפקחים על שלב הפיתוח של מוצר טכנולוגי, כאשר הפיתוח הוא תהליך פנים ארגוני, מתמשך, שאולי מתרחש מחוץ לאירופה וכרוך בסודות מסחריים.

3. איסור על שימוש ב-AI לשם פגיעה בבחירה של אזרחים וכן איסור על מניפולציות קוגניטיביות מכוונות.

4. הרחבת ההגדרה של מערכות בסיכון גבוה, שלכן יהיו כפופות לחובות מחמירות. במקור ההערכה הייתה שעד 20% מהמערכות יכללו בקטגוריה הזו, שעליה יחולו הרבה הגבלות וחובות יקרות. לאור השינוי הזה, האחוז צפוי לעלות, כנראה לכיוון ה-30%.

5. מצד שני, הקלה והבהרה – כל יתר המערכות יהיו כפופות רק לחובות של גילוי ושקיפות. עוד צריך לראות את הנוסח הסופי והאם הם פתרו את הכפילות והסתירות עם ה-GDPR.

6. אכיפה: ניתן יהיה להטיל קנסות של עד 35 מיליון יורו או 7% מהמחזור העולמי של המפר.

אני מזכיר את התחולה הרחבה של החוק – הוא יחול על כל חברה שהמוצר שלה נמצא בשימוש באירופה, וזה מאוד מאוד מרחיב.

נמתין לנוסח הסופי כדי לראות מה בדיוק סוכם ומתי החוק יכנס לתוקף. מבטיח לעדכן.