קוריאה מעבירה חוק AI

חדשות חמות: קוריאה הדרומית חוקקה חוק AI מקיף!
דרום קוריאה היא המדינה השנייה בעולם שמחוקקת חוק AI רוחבי, המושפע רבות מהחקיקה של האיחוד האירופי.

חוק ה-AI החדש, הנקרא "החוק הבסיסי לפיתוח AI וביסוס אמון" (The Basic Law on AI Development and Trust-Based Establishment), אושר אתמול בפרלמנט ברוב מרשים של 260 קולות בעד מול קול אחד נגד.

עיקרי החוק:

תחולה רחבה

החוק כולל הגדרות יסוד מרכזיות כמו: AI, high-impact AI, generative AI, AI ethics, and AI business operators (סעיף 2).
הגדרות אלו מבהירות שהחוק חל על מערכות AI גנרטיביות (generative AI) ועל מפעילים ומשתמשים במערכות AI, תוך יצירת מסגרת רחבה שחלה על תחומים רבים. עם זאת, הקוריאנים מדגישים שהחוק שלהם ממוקד בזירה המקומית, בהשוואה לחוק האירופי שיש לו השפעות בין לאומיות רחבות בגלל סעיפי ההגדרות והתחולה המרחיבה.

חובת גילוי

החוק מטיל חובת גילוי על עסקים המשתמשים ב-AI:

עליהם להודיע מראש למשתמשים אם השירותים או המוצרים מבוססים על high-impact AI או generative AI.

במקרה שהמוצרים נוצרו באמצעות generative AI, יש לציין זאת באופן ברור.

בנוסף, במקרים של תוצרים וירטואליים שמקשים על ההבחנה בין מציאות לדמיון, נדרשת הודעה ברורה למשתמשים (סעיף 31).

ניהול סיכונים

מפעילי מערכות AI מחויבים לבצע זיהוי סיכונים, הערכתם והפחתתם, כדי להבטיח את בטיחותן.
הרף המחייב של סיכונים ומורכבותם ייקבע בצו נשיאותי, גישה גמישה יותר בהשוואה למודל האירופי שבו נקבעים הרפים ישירות בחקיקה (סעיף 32).

סמכויות פיקוח וחקירה

שר המדע והטכנולוגיה מוסמך לפקח על יישום החוק:

הוא רשאי לדרוש ממפעילי מערכות AI להגיש מסמכים, או להפעיל פקידי ציבור לביצוע חקירות.

אם זוהתה הפרה, השר רשאי להורות על תיקון ההפרה או על נקיטת צעדים להפסקתה (סעיף 40).

דמיון לחקיקה האירופית

החוק הקוריאני חולק מאפיינים רבים עם חוק ה-AI של האיחוד האירופי, ביניהם:

• גישה מבוססת ניהול סיכונים, המחייבת חובות מוגברות עבור מערכות AI בסיכון גבוה או בעלות השפעה גבוהה.
• קווים מנחים אתיים ודרישות לאמינות מערכות AI.
• הגנה על זכויות יסוד.
• חובות שקיפות וגילוי, במיוחד בנושאים כמו deepfake, בדומה לסעיף 50 בחוק האירופי.
• הקמת גופים רגולטוריים ונהלי פיקוח.

סיכום

מדובר במהלך משמעותי נוסף של יצירת רגולציה רוחבית בתחום ה-AI, במקום רגולציה ענפית ממוקדת.
נראה שבמקרה הזה "אפקט בריסל" מתממש – האיחוד האירופי מצליח לקבוע סטנדרטים גלובליים המשפיעים על מדינות נוספות.
האם נראה חוקים דומים במדינות נוספות כבר ב-2025? רק הזמן יגיד. ודונלד טראמפ.