מקרון, אמודאי ואלטמן חותמים: התחייבות בינלאומית חדשה לבטיחות AI

שש מדינות ועשר חברות, ובהן Anthropic, OpenAI ומיקרוסופט, חתמו על התחייבויות להערכות בטיחות עצמאיות, לפרסום ממצאים ולמנגנוני עצירה של מודלי AI מתקדמים. זהו צעד משמעותי, אך לא חוק מחייב ולא הסכמה להאטה גורפת.

נשיא צרפת עמנואל מקרון כינס ב-9 בנובמבר מפגש בינלאומי בנוגע לסיכוני בינה מלאכותית מתקדמת, שבמסגרתו נחתמה "קריאת פריז לבטיחות ולביטחון הבינה המלאכותית". על פי הנוסח הרשמי שפרסמו ארמון האליזה וממשלת קנדה, בין החברות החתומות נמצאות Anthropic של דריו אמודאי, OpenAI של סם אלטמן, מיקרוסופט, Mistral AI, Hugging Face ו-Cohere. לחתימה הצטרפו שש מדינות: צרפת, קנדה, פינלנד, נורווגיה, הולנד ובחריין.

זהו שינוי מהותי ביחס לתגובות המילוליות שנשמעו לאחר מאמרו של אמודאי, "We Must Pace the Frontier", ב-12 בספטמבר. הפעם מדובר במסמך רב-צדדי ובו התחייבויות פעולה מפורשות, אף שאין בו לוח זמנים מחייב או סנקציות מוסכמות. אין ראיה שפרסום המאמר עצמו הוא שהוביל לחתימה; עם זאת, אמודאי השתתף במהלך והמטרות המרכזיות שלו תואמות חלק מהצעותיו.

על מה התחייבו החותמים?

המסמך קובע כוונה להקים מסגרת משותפת לבדיקת סיכוני מודלי הקצה, עם תקני הערכה ושיטות מדידה שיאפשרו השוואה בין חברות ומדינות. החותמים הסכימו לפרסם ממצאים שאינם רגישים במתכונת אחידה ולהקים מאגר מידע ציבורי. מפתחי המודלים התחייבו לחשוף את יכולות המודלים, מגבלותיהם והסיכונים הידועים, ולאפשר הערכות של גורמים עצמאיים מתאימים כאשר הדבר ראוי ומידתי לסיכון.

הסעיף הבולט ביותר נוגע למנגנוני בלימה: מפתחי מודלי הקצה התחייבו להפעיל אמצעים שיאפשרו להגביל, להשהות או להפסיק פעולה של מודלים שבשליטתם - גם בשלבי אימון ושימוש פנימי. במקביל, החותמים מבקשים לשפר את סיווג האירועים החריגים, את הדיווח על תקריות סייבר ואובדן שליטה ואת ערוצי האזהרה המוקדמת. המדינות התחייבו לקדם ערוצים חסויים לדיווחי מתריעים ולבחון הבהרה של אחריות משפטית לנזקים רחבי היקף.

מה עדיין לא סוכם?

חשוב להבחין בין התחייבות הצהרתית לבין הסדרה מחייבת. "קריאת פריז" אינה מטילה כעת איסור גורף על אימון מודלים, אינה קובעת קצב מקסימלי להתקדמות היכולות ואינה מגדירה עונשים או מועדי יישום מוסכמים. אין בה התחייבות לתת למעריכים חיצוניים גישה קבועה ברמת עובד לכל מעבדה. גם ארצות הברית אינה נמנית עם שש המדינות החתומות, אף שנציג הממשל האמריקאי השתתף במפגש. בריטניה ויפן השתתפו במפגש אך אינן ברשימת המדינות החתומות בנוסח הרשמי הנוכחי.

המשמעות למשקיעים

המסמך עשוי לחזק את הביקוש לשירותי הערכת מודלים, ביקורת חיצונית, ניטור ואבטחת סייבר. מנגד, אם ההתחייבויות יתורגמו להליכים מחייבים, עלולות לגדול עלויות הציות, הבדיקות וזמני הפיתוח בקרב מעבדות ה-AI המובילות. בשלב זה אין נתונים המאפשרים לכמת את ההשפעות על הכנסות, רווחיות או שווי של חברות, ואין בסיס לייחס למהלך תנועות במניות או באג"ח. למשקיעים חשוב לעקוב אחר שלושה מבחנים מעשיים: פרסום תוצאות בדיקה אחידות, הקמת מאגר האירועים, והצגת מסגרת יישום מפורטת על ידי החברות והמדינות.