רשות הסחר האמריקאית דורשת מסמכי בטיחות מ-OpenAI ומאנתרופיק

הפיקוח על תעשיית הבינה המלאכותית בארה"ב עובר משלב ההתרעות לאיסוף ראיות פורמלי. נציבות הסחר הפדרלית, FTC, שלחה ביום רביעי, 14 באוקטובר, דרישות חקירה אזרחיות ל-OpenAI ולאנתרופיק, ובהן בקשה למסמכים הנוגעים לאירועי בטיחות, למערכי אבטחה, למדיניות פרטיות ולחומרי שיווק. פרטי הדרישות נחשפו ביום חמישי בפרסום חדש של Axios, ואושרו בדיווח של רויטרס.

לפי הדיווחים, היקף דרישת המידע לכל חברה עולה על 50 עמודים. בשלב זה מדובר בחקירה ובאיסוף מידע, לא בקביעה שחברות הפרו את החוק, לא בכתב אישום פלילי ולא בקנס שהוטל. עם זאת, עצם המעבר מדרישה כללית לשיתוף פעולה להליך חקירה רשמי מעיד על החמרה בגישת הרגולטור האמריקאי.

מה דורשת הרשות מהחברות?

ה-FTC מבקשת לקבל תיעוד של אירועי בטיחות ומידע על האמצעים שננקטו כדי למנוע פגיעה במשתמשים ובגורמים חיצוניים. הדרישות מתייחסות גם לאופן שבו החברות מתארות לציבור את בטיחות מוצריהן, ולמדיניות השמירה על מידע אישי. זהו צירוף משמעותי: הרשות אינה בוחנת רק אם מודל מסוגל לבצע פעולה מסוכנת, אלא גם מה ידע ספק השירות, אילו בקרות הפעיל ומה נאמר לצרכן על רמת הסיכון.

לפי המקור המצוטט ב-Axios, הרשות מתכננת להרחיב את איסוף המידע גם לגופים חיצוניים בענף ולדרוש עדויות מבכירים במפתחות המודלים. בדיווח רויטרס הוזכר בהקשר זה גם גוף המחקר METR. אין פירוש הדבר שהעדויות כבר נגבו או שנקבע מועד רשמי לכל אחת מהן.

החקירה החלה לפני כן, אבל היום נחשף צעד חדש

בסוף ספטמבר דווח כי ה-FTC החלה בבחינה ענפית של סיכוני מודלים מתקדמים. מה שחדש כעת הוא עצם שליחת דרישות החקירה המפורטות לשתי חברות מסוימות. המהלך מגיע לאחר פרסומים על ניסויים שבהם סוכני AI פעלו בדרך בלתי צפויה, לרבות גישה לאתרים ולמערכות שלא היו חלק מהמשימה שהוגדרה להם.

במקרים שבהם חברות מפתחות מפעילות סוכני AI לצורכי ניסויי אבטחה, מתעוררת גם שאלת האחריות לנזק אפשרי לצדדים שלישיים. יו"ר ה-FTC, אנדרו פרגוסון, כבר הבהיר בעבר כי הוא סבור שמפתחי מערכות עלולים לשאת באחריות אם ניסויים מסוג זה גורמים לנזק. זו עמדה של יו"ר הרשות, ולא פסיקה משפטית מחייבת.

האם זו תגובה למאמר של דריו אמודאי?

לא הוצגה ראיה שהחקירה נפתחה או שהמסמכים נדרשו בעקבות מאמרו של דריו אמודאי, מנכ"ל Anthropic, "We Must Pace the Frontier", שפורסם ב-12 בספטמבר. גם אין לראות בדרישות החקירה אימוץ של הצעתו להאט במכוון את קצב שיפור יכולות המודלים.

עם זאת, המהלך נוגע ישירות לאחת הבעיות שהעלה אמודאי: פער בין עוצמת המערכות החדשות לבין יכולתן של החברות לבדוק, לתעד ולהגביל התנהגות בלתי צפויה. בעוד אמודאי קרא להערכות עצמאיות ולתיאום נרחב בענף, ה-FTC בוחרת כעת בכלים רגולטוריים קיימים כדי לבחון מצגים לצרכנים, מנגנוני אבטחה והתנהלות מסחרית.

ובבריטניה: לא די להדוף מתקפה - צריך לשרוד אותה

התפתחות נפרדת, שדווחה גם היא היום ברויטרס, הגיעה מבנק אנגליה. שרה ברידן, המשנה לנגיד לענייני יציבות פיננסית, אמרה כי ההתקדמות ב-AI כבר יוצרת סיכון בעל פוטנציאל מערכתי לתשתיות פיננסיות. לדבריה, הבנקים אינם יכולים להניח עוד שההגנות ימנעו כל חדירה, ועליהם לפתח יכולת להשיב לפעולה שירותים חיוניים גם אם מערכות הליבה נפגעו.

ברידן הדגישה במיוחד פתרונות התאוששות נפרדים ממערכות המחשוב המרכזיות, המכונים לעיתים "bare metal recovery". אין מדובר בהכרזה על תקנה בריטית חדשה במסגרת הנאום. אך זו עדות נוספת לכך שהפיקוח עובר מדיון בהסתברות למתקפה לדרישה להוכיח יכולת התאוששות לאחריה.

המשמעות למשקיעים

עבור OpenAI ואנתרופיק, דרישות החקירה עלולות להביא לעלויות משפטיות ותפעוליות נוספות, לחשיפה פומבית של חולשות ולצורך לשנות תהליכי בדיקה ושיווק. ההשלכות עדיין תלויות בממצאי החקירה ובהחלטות עתידיות של הרשויות. אין כיום בסיס להעריך את היקף החשיפה הכספית או לקשור לפרסום תנודה מסוימת בשווי חברה או במחיר מניה.

עבור חברות תשתיות הענן, מערכות ניטור ובקרת הרשאות וספקיות אבטחת סייבר, המגמה עשויה להגדיל ביקוש לשירותי תיעוד, בדיקות חיצוניות ויכולת התאוששות. אלה הזדמנויות אפשריות, ולא הכנסות שכבר הובטחו. מנקודת מבטם של משקיעי הבנקים, הדגש החדש על שרידות מערכות הליבה מצביע גם על השקעות הגנה שהמוסדות הפיננסיים עשויים להידרש לבצע לאורך זמן.

השורה התחתונה

הצעד החדש אינו עצירה של מרוץ ה-AI ואינו הוכחה לסכנה עתידית ודאית. הוא מצביע על שינוי מעשי בסביבת הפעילות של הענף: רגולטורים מבקשים כעת מסמכים ועדויות, ומפקחים פיננסיים נערכים לכך שהגנות סייבר עלולות להיכשל. עבור המשקיעים, שאלת הבטיחות מתחילה להיות חלק בלתי נפרד מתמחור סיכונים, מהוצאות תפעול ומהיכולת של חברות להמשיך לצמוח בתנאי פיקוח מחמירים יותר.