OpenAI קושרת לראשונה את ההאטה להחלטות עסקיות

שתי התפתחויות חדשות מחדדות את הוויכוח שנפתח בעקבות We Must Pace the Frontier של דריו אמודאי - אחת מהממשל האמריקאי והשנייה מתוך הנהלת OpenAI.

סגן נשיא ארה"ב JD Vance התייחס ישירות לעמדה של אמודאי ודחה את הרעיון שחברות שבונות מערכות AI מסוכנות צריכות לפנות לממשלה כדי ליצור מנגנון רגולטורי משותף. בנאום בכנס AI בלוס אנג'לס אמר ונס, בהתייחסו לאמודאי: "If you're building Frankenstein, stop." המסר שלו היה כי האחריות הראשונית צריכה להישאר אצל המפתחים עצמם - אם חברה חושבת שהמערכת שהיא בונה מסוכנת, עליה לעצור אותה ולא לבקש מהממשלה ליצור מסגרת שמגבילה את כל התעשייה.

זו אינה חזרה פשוטה על עמדת הנשיא דונלד טראמפ, שכבר דחה את תרחישי הקטסטרופה סביב AI. ונס אינו טוען שאין סיכון. הוא מקבל את האפשרות שחברות עלולות לפתח מערכת מסוכנת, אבל חולק על הפתרון של אמודאי - במיוחד על הרעיון שהממשלה צריכה לסייע בתיאום רחב בין המעבדות.

מבחינת מדיניות אמריקאית, זו התפתחות חשובה: אחרי ההסתייגות של יו"ר ה-FTC מתיאום שעלול לפגוע בתחרות, כעת גם סגן הנשיא מציב קו שלפיו האחריות להאטה צריכה להיות ברמת החברה הבודדת ולא באמצעות הסכם תעשייתי בחסות הממשלה.

במקביל - OpenAI הופכת את "Pace the Frontier" משיח בטיחות לשאלה פיננסית

בצד השני של הוויכוח הגיעה הצהרה משמעותית משרה פרייר, סמנכ"לית הכספים של OpenAI.

בראיון ל-CNBC אמרה פרייר כי אם חוקרי החברה יקבעו ששיקולי בטיחות מחייבים האטה, OpenAI אכן תהיה מוכנה להאט. לדבריה, החברה תקשיב לחוקרים גם אם המשמעות תהיה שינוי בקצב הפיתוח, והיא כמנהלת הכספים תצטרך לאחר מכן להתאים לכך את ההחלטות העסקיות.

זהו חידוד משמעותי לעומת התמיכה הראשונית של סם אלטמן במאמר של אמודאי. אלטמן התחייב לבדיקות עצמאיות ותמך עקרונית ב-pacing. פרייר מכניסה לראשונה את הדיון ישירות לתוך הקצאת ההון והניהול הפיננסי של OpenAI.

היא גם אמרה כי אפילו אם הפיתוח היה נעצר כיום, כבר קיימת בעולם כמות עצומה של יכולת AI, וכי OpenAI תמשיך לבחון השקעות על בסיס תשואה כלכלית גם כאשר שיקולי בטיחות משפיעים על הקצב.

המשמעות למשקיעים - זה כבר מתקרב לתקציב

זה החלק שהופך את ההתפתחות ב-OpenAI לחשובה במיוחד למשקיעים.

עד עכשיו רוב הדיון עסק בעקרונות - alignment, evaluators, רגולציה ותיאום בין מעבדות. כשסמנכ"ל הכספים של אחת מצרכניות המחשוב הגדולות בעולם אומר בפומבי שהחלטות בטיחות יכולות להשפיע על החלטות עסקיות, מתחילה להיווצר נקודת חיבור ישירה בין AI Safety לבין CapEx.

אין עדיין הודעה על ביטול אימון, צמצום הזמנת GPU, האטת בניית דאטה סנטרים או הפחתת התחייבות לספק תשתית. לכן אין בסיס לומר שהוצאות OpenAI כבר משתנות.

אבל עבור Nvidia, Broadcom, AMD, יצרניות הזיכרון, ספקיות הרשת, ענקיות הענן וחברות הדאטה סנטרים, זהו ניסוח שכדאי לעקוב אחריו: השאלה החשובה כבר אינה רק מה סם אלטמן חושב על בטיחות, אלא האם מחלקת הכספים של OpenAI תתחיל להזיז בפועל מועדי השקעה כאשר צוותי הבטיחות יבקשו להאט.

במקביל, עמדת ונס מצביעה לכיוון ההפוך מבחינת רגולציה פדרלית: הממשל האמריקאי אינו מאותת כרגע שהוא מתכוון לכפות האטה רוחבית של המרוץ.

נוצר לכן קו חלוקה מעניין מאוד: וושינגטון אומרת לחברות "אם מסוכן לכם - תעצרו בעצמכם"; OpenAI אומרת כעת "אם החוקרים שלנו יגידו לעצור - גם הכסף יתאים את עצמו".

זה כבר הרבה יותר קרוב למאזן ולתקציב מאשר הוויכוח הפילוסופי שבו החל המאמר של אמודאי.