אלטמן מציג לעובדי OpenAI שלושה מסלולים לעתיד הבינה המלאכותית

חודש וקצת לאחר קריאתו של דריו אמודאי להאט את קצב שיפור יכולות הבינה המלאכותית, מתברר כי גם בתוך OpenAI מתקיים דיון על האפשרויות המעשיות לניהול המרוץ. לפי תחקיר של סטפני פאלאצולו ואמיר אפרתי באתר The Information, שפורסם ב-19 באוקטובר בשעות הערב בארה"ב, מנכ"ל החברה סם אלטמן הציג לעובדים בשבוע שעבר שלושה תרחישים לאופן שבו תוכל התעשייה להמשיך ולפתח מערכות AI מתקדמות בלי לאבד שליטה על הסיכונים.

שלושה מסלולים - ואין עדיין החלטה

האפשרות הראשונה היא הקמת גוף פיקוח בינלאומי בדומה לסוכנות הבינלאומית לאנרגיה אטומית (IAEA), שיוכל לקבוע תקני בטיחות ולפקח על מפתחי המודלים. לפי שני מקורות המכירים את הדברים, אלטמן נטה לתמוך באפשרות זו. מדובר בהעדפה שיוחסה לו בדיווח עיתונאי, ולא בהחלטה תאגידית רשמית.

האפשרות השנייה, שאלטמן כינה לפי הדיווח "תוכנית דמיס", היא ריכוז פעילותן של מעבדות הבינה המלאכותית הגדולות בארגון משותף, בדומה ל-CERN. הכינוי מתייחס לרעיון ישן המזוהה עם דמיס הסביס מגוגל דיפמיינד. אין בכך עדות שהסביס עצמו מקדם כיום מיזוג של החברות.

האפשרות השלישית היא תרחיש שבו מפתח יחיד מגיע לעוצמה המאפשרת לו למנוע מאחרים גישה למשאבי המחשוב הדרושים לפיתוח מערכות מתחרות. אלטמן כינה את האפשרות הזו "תוכנית אליעזר", על שם חוקר בטיחות ה-AI אליעזר יודקובסקי, והגדיר אותה, לפי הדיווח, כתסריט גרוע בעיניו. זו אינה תוכנית ש-OpenAI אימצה.

מה חדש ומה כבר נאמר בעבר?

הרעיון להקים רגולטור בינלאומי לבינה מלאכותית אינו חדש: אלטמן ושני שותפיו פרסמו כבר במאי 2023 מסמך רשמי של OpenAI שהציע מנגנון דומה. החידוש הוא שבחודש אוקטובר 2026 אלטמן שב ומציג את האפשרויות בתוך החברה, בתקופה שבה קריאתו של אמודאי מחדדת את המתח שבין מרוץ היכולות לבין בטיחות המודלים. לפי The Information, אלטמן אמר כי החברה תצטרך לגבש בשנה הקרובה את הדרך שבה תפעל לקידום פתרון, ובאותה עת אינה יכולה להרשות לעצמה להישאר מאחור בתחרות.

התבטאויות אלה אינן תגובה פומבית ישירה למאמר We Must Pace the Frontier, והן אינן התחייבות להאט את קצב הפיתוח. הן מדווחות מפי מקורות המכירים דיון פנימי. לצד זאת, על פי הדיווח, OpenAI, אנתרופיק וגוגל ממשיכות לפתח מסגרת משותפת לתקני בטיחות, אך עדיין חלוקות בשאלת הגוף שיבחן בפועל את המודלים.

המשמעות למשקיעים

מבחינת שוק ההון, השאלה אינה רק אם ההתקדמות הטכנולוגית תואט, אלא מי יקבע את תנאי הכניסה לשוק ומי ישלם עבור הבדיקות. רשות בינלאומית עשויה להגדיל את הוצאות הציות של מפתחי מודלים, אך גם ליצור כללים ברורים יותר. גוף משותף עלול להעלות שאלות תחרות והגבלים עסקיים. ריכוז כוח בידי מפתח יחיד עשוי להפוך לסיכון מהותי עבור מתחרים, ספקי תשתיות ולקוחות.

בשלב זה אין שינוי רגולטורי מחייב הנובע מדברי אלטמן, ואין ראיה שמחירי מניות הושפעו מהם. גם תרחיש הסיכון לטווח של 6-12 חודשים שהעלה אמודאי אינו תחזית ודאית או אירוע שכבר התממש.