מפת הכוחות שמעצבת מחדש את מרוץ הבינה המלאכותית - FUNDER עושה סדר

 

קרדיט: אילוסטרציה – AI
 

בתוך שלושה ימים הפך מאמר אחד של דריו אמודאי מוויכוח מקצועי על בטיחות AI למאבק גלובלי על קצב ההתפתחות של אחת התעשיות החשובות בעולם.

כמעט כל מי שמחזיק בכוח ממשי בזירה כבר התמקם: מנהלי המעבדות, חברות הענן, יצרני השבבים, הבית הלבן, הקונגרס וממשלת סין.

וככל שמתרבות ההצהרות, נעשית התמונה מורכבת יותר. כמעט כולם מסכימים שקיימים סיכונים. המחלוקת היא מי צריך לבלום, מתי, ועד כמה.

דריו אמודאי - האיש שהדליק את הפתיל

מנכ"ל Anthropic הוא כרגע הקול הברור ביותר במחנה שקורא לשנות את קצב המרוץ עצמו.

במאמר We Must Pace the Frontier טוען אמודאי שהשיפור ביכולות המודלים מתקדם מהר יותר מיכולת התעשייה להבין, לבדוק ולשלוט בהם. שני אירועים עומדים במרכז הטיעון שלו: האצה בשימוש ב-AI לבניית הדור הבא של AI, ואירוע OpenAI-Hugging Face שבו נחיל של סוכנים הצליח לתקשר, לשתף פעולה ולבצע פעולות סייבר שלא נדרשו ממנו.

אמודאי אינו קורא לעצירת הפיתוח. הוא מציע pacing - האטה מבוקרת שתיתן למנגנוני הבטיחות זמן להדביק את קצב היכולות.

השלב הראשון מבחינתו כבר הוכרז: Anthropic תכניס בודקים חיצוניים בעלי גישה דמוית עובד אל תוך החברה. לאחר מכן הוא מבקש תיאום בין חברות במדינות דמוקרטיות, ובהמשך ניסיון להסכם בינלאומי.

אומנם הוא מעלה תרחיש שלפיו בתוך 6-12 חודשים נחיל מתקדם יותר עלול להיות מסוגל לגרום נזק עצום באמצעות רשת מחשבים שנפרצו, אך זו הערכת סיכון שלו - לא תחזית ודאית.

סם אלטמן - מצטרף להאטה, אבל לא לעצירה

סם אלטמן היה אחד הראשונים להגיב לאמודאי.

מנכ"ל OpenAI כתב כי הוא מסכים שיש צורך "לווסת את קצב החזית", והודיע שגם OpenAI תאמץ בודקים עצמאיים בעלי גישה עמוקה יותר למערכות החברה. הוא אף אמר שהנושא נמצא בדיונים פנימיים ב-OpenAI כבר מספר שבועות.

אבל אלטמן מבחין בין האטה לבין עצירה. מבחינתו, AI ימשיך להתקדם, רק לא בהכרח במהירות המקסימלית האפשרית.

העמדה שלו מעניינת במיוחד משום שבמקביל הוא הודיע כי OpenAI אינה ממהרת להנפקה. לדבריו, בתקופה שבה סוגיות הבטיחות עדיין פתוחות, הפיכה לחברה ציבורית עלולה להיות צעד לא נכון.

כלומר, אצל אלטמן כבר קיים קשר בין בטיחות לבין החלטות פיננסיות אמיתיות.

אילון מאסק - "דריו צודק"

התגובה של אילון מאסק הייתה הקצרה ביותר, אבל אולי המפתיעה ביותר.

"Dario is right".

שלוש מילים שהספיקו כדי להכניס את הבעלים של xAI למחנה התומך בכיוון הכללי של האטה. מאסק כבר הזהיר בעבר מסיכוני AI ותמך ביוזמות להאט פיתוח במצבים מסוימים, אבל הוא גם מנהל היום אחת ממעבדות ה-AI האגרסיביות ביותר בעולם.

מכאן נולד הפרדוקס: האיש שבונה במהירות עצומה תשתיות ל-Grok אומר עכשיו שגם הוא חושב שהמרוץ זקוק לבלמים.

עדיין לא נמסרה התחייבות של xAI לשנות קצב אימון, לדחות מודל או לאמץ את מנגנון הבודקים של Anthropic.

דמיס הסביס - הכיוון נכון, אבל צריך מוסדות

דמיס הסביס, מייסד DeepMind והמדען הראשי של Alphabet, תמך ישירות במאמר.

לדבריו, המאמר "מצביע בכיוון הנכון", אף שהפרטים עדיין דורשים עבודה. הסביס מפנה למודל שהוא עצמו הציע עוד קודם - גוף סטנדרטים ענפי למודלי Frontier AI.

זו עמדה מעט שונה מזו של אמודאי.

אמודאי מתחיל בביקורת חיצונית בתוך המעבדות. הסביס חושב יותר במונחים של מוסד ענפי שיקבע כללים משותפים.

Google DeepMind אומנם תומכת בכיוון, אך עד כה לא הודיעה שתפחית את קצב הפיתוח או תדחה מודלים.

סאטיה נאדלה - בטיחות צריכה להיות חלק מהמוצר עצמו

מיקרוסופט כבר עברה מהצהרות למסמך מעשי.

החברה פרסמה טיוטת Humanist AI Code of Conduct, שלפיה מערכות AI צריכות להישאר כפופות לבני אדם, לא לפתח מטרות עצמאיות ולא להתנגד לתיקון או לכיבוי. מיקרוסופט אף מצהירה שהיא מוכנה לוותר במידת הצורך על חלק מהאוטונומיה או היכולת של המודלים כדי לשמור על שליטה אנושית.

נאדלה תומך גם ברעיון של pacing ובבודקים חיצוניים, אבל מוסיף תנאי: מנגנון הבטיחות לא יכול להפוך למועדון סגור הנשלט בידי קומץ חברות.

במילים אחרות, מיקרוסופט תומכת ביותר בטיחות, אבל רוצה להבטיח שהרגולציה לא תסגור את השוק.

ג'נסן הואנג - האיש שמוכר את האתים לא קורא להאט

ג'נסן הואנג נמצא בעמדה שונה מכל היתר.

Nvidia אינה מפעילה את אחת ממעבדות ה-Frontier המרכזיות, אבל היא מספקת את כוח המחשוב שעליו בנוי כמעט כל המרוץ.

נכון לעכשיו הואנג לא הצטרף לקריאה של אמודאי להאט. להפך, המסר שלו ממשיך להיות בנייה והתרחבות של תשתיות AI.

והאירוע האחרון המחיש זאת בצורה כמעט תיאטרלית.

במהלך הופעתו של הואנג ב-All-In Summit, התקשר אליו נשיא ארה"ב דונלד טראמפ. הואנג שם את הנשיא על רמקול מול הקהל. טראמפ ניצל את השיחה כדי להרגיע את החששות ואמר כי הפחד שהרובוטים ישתלטו הוא "hoax" וכי "הרובוטים לא ישתלטו".

הואנג לא התעמת איתו. הוא חזר על מחויבותו לכך שארה"ב וכל תעשיותיה ייהנו ממרוץ ה-AI.

האירוע הזה חשוב למשקיעים מפני שהוא ממחיש את הקו של Nvidia: נכון לעכשיו אין איתות להאטת בניית מרכזי נתונים או השקעות תשתית.

דונלד טראמפ - פחות מפחד מה-AI, יותר מפחד מסין

טראמפ הוא כנראה האדם שמחזיק בכוח הפוליטי הגדול ביותר להשפיע על קצב הפיתוח בארה"ב - והעמדה שלו ברורה יותר מיום ליום.

הוא תקף את אמודאי בשמו, כתב שה-"guardrails" היחידים ש-AI צריך הם נשיא חזק וחכם, וטען שקיימת "קנוניה חולנית" נגד AI ומרכזי הנתונים.

הוא גם כתב: "אל תהרגו את אווז הזהב".

מבחינתו, האיום העיקרי אינו שה-AI יתקדם מהר מדי אלא שארה"ב תאט בזמן שסין ממשיכה לרוץ.

השיחה עם הואנג חיזקה את המסר הזה. טראמפ אינו מראה כרגע נטייה לתמוך בהאטה רחבה או במערכת רגולטורית חדשה שתוכל לעצור מודלים.

אבל גם העמדה שלו אינה נקייה משיקולים כלכליים ופוליטיים. מרכזי הנתונים הפכו למנוע של השקעות, תעסוקה ותשתיות בארה"ב, והבית הלבן מעוניין לשמור על ההובלה האמריקאית מול סין.

דייוויד סאקס - "אם אתם רוצים להאט, תאטו"

אחת הביקורות החדות ביותר מגיעה דווקא מתוך המחנה הטכנולוגי שמקורב לטראמפ.

דייוויד סאקס אינו מכחיש בהכרח שיש סיכונים. הוא תוקף את המנגנון שאמודאי מציע.

הטענה שלו פשוטה: אם Anthropic ו-OpenAI חושבות שהטכנולוגיה מסוכנת מדי, הן כבר יכולות להאט בעצמן. אין צורך לקבל בתמורה מסגרת רגולטורית מיוחדת או פטור מהגבלים עסקיים.

מבחינתו, כאן מתחיל החשש מ-regulatory capture.

החברות הגדולות עלולות להשתמש בבטיחות כדי לייצר כללים שרק הן מסוגלות לעמוד בעלויותיהם - ולהקשות על מתחרות צעירות להיכנס.

זו גם הביקורת שמתחילה להישמע מצד משקיעים ופרשנים פיננסיים: האם החברות שמבקשות להאט הן במקרה גם אלה שהכי ירוויחו אם המרוץ ייעשה יקר ומפוקח יותר?

סין - "אל תהפכו את הבטיחות לכלי במאבק נגדנו"

משרד החוץ הסיני כבר הגיב ישירות לדיון.

הדובר גואו ג'יאקון אמר כי AI צריך להתפתח באופן פתוח ומכיל, וכי "הפחדה, עימות ותחרות זדונית" יפגעו בממשל הגלובלי של התחום.

המסר הסיני אינו "אין סיכון ב-AI".

המחלוקת נמצאת במקום אחר: סין רואה סתירה בין קריאה אמריקאית לשיתוף פעולה בבטיחות לבין מגבלות על שבבים וטכנולוגיה שמטרתן לשמור על הפער האמריקאי.

Global Times אף הגדיר את התוכנית של אמודאי כ"טקטיקת מלחמה קרה".

מבחינת בייג'ינג, אם ארה"ב מבקשת להאט את המרוץ ובמקביל למנוע מסין גישה לטכנולוגיות המתקדמות ביותר, קשה להציג את ההאטה כמהלך אלטרואיסטי בלבד.

ברני סנדרס - אמודאי לא הולך רחוק מספיק

מהצד השני של המערכת הפוליטית האמריקאית ניצב ברני סנדרס.

מבחינתו, עצם העובדה שמנהלי החברות אומרים שצריך להאט היא הוכחה לכך שהסיכון רציני.

אלא שהוא אינו מסתפק ב-pacing וולונטרי. סנדרס קרא לפעולה ממשלתית חזקה יותר ולבלמים על פיתוח של מערכות שעלולות להפוך לסופר-אינטליגנטיות.

כך אמודאי מוצא את עצמו מותקף משני הצדדים: אצל סאקס הוא מבקש יותר מדי רגולציה; אצל סנדרס הוא מבקש מעט מדי.

Meta - בטיחות כתנאי להמשך scaling

Meta נוקטת קו מעט אחר.

אלכסנדר וונג, שמוביל את Meta Superintelligence Labs, אמר כי ככל שהחברה מתקרבת לחזית, alignment עשוי להפוך ל-gating factor - תנאי שקובע האם בכלל ניתן להמשיך להגדיל את המודלים.

זו אינה הצטרפות רשמית לתוכנית אמודאי.

אבל מבחינה מעשית היא עשויה להיות אפילו מעניינת יותר: אם המודל אינו עומד בדרישות הבטיחות, ייתכן שלא ממשיכים להגדיל אותו.

זהו בדיוק סוג מנגנון שאקדמאים בתחום הבטיחות ביקשו במשך שנים - לא להחליט מראש כמה מהר מתקדמים, אלא לקשור כל שלב חדש לעמידה במבחן בטיחות.

 אז מי מוביל את המחנה?

כרגע אין מחנה אחד.

אפשר לחלק את הזירה לארבע גישות:

אמודאי, אלטמן, הסביס ונאדלה אומרים פחות או יותר: ממשיכים להתקדם, אבל בקצב שמאפשר בדיקות, ניטור ובטיחות.

מאסק תומך באזהרה ובצורך בבלמים, אך עדיין לא הציג תוכנית יישום מקבילה ב-xAI.

טראמפ, הואנג וסאקס מדגישים את המשך ההתקדמות, התחרות מול סין והסכנה שרגולציה כבדה תפגע בחדשנות או תגן על החברות הקיימות.

סנדרס וחלק מחוקרי הבטיחות חושבים שההצעה של אמודאי דווקא רכה מדי.

ומעבר לכל אלה ניצבת סין, שאינה מוכנה לקבל מערכת שבה ארה"ב גם קובעת את כללי הבטיחות וגם שומרת לעצמה יתרון טכנולוגי.

ומה השתנה בימים האחרונים?

הדבר החשוב ביותר הוא שהדיון עבר משלב של רעיונות לשלב של צעדים.

Anthropic מתחייבת לבודקים חיצוניים.

OpenAI אומרת שתעשה אותו דבר.

מיקרוסופט פרסמה קוד התנהגות.

Google DeepMind דוחפת לגוף תקנים ענפי.

הקונגרס בוחן חובות בדיקה.

סין כבר מגיבה רשמית.

וטראמפ בחר בצד הנגדי וקושר את המשך ההאצה ישירות לתחרות מול סין.

ובמרכז כל זה עומד ג'נסן הואנג, שמוכר לכל הצדדים את כוח המחשוב.

השיחה החיה שלו עם טראמפ הייתה כמעט סמלית: מנהיג המעצמה שמבקש להמשיך ללחוץ על הגז מדבר ישירות עם המנכ"ל של החברה שמייצרת את המנוע של המרוץ.

השאלה הגדולה נשארה פתוחה

כולם מדברים עכשיו על בטיחות.

מעטים מאוד הודיעו בפועל שהם מוותרים על מודל, על אימון או על דאטה סנטר.

וזו עדיין נקודת המבחן.

כל עוד התמיכה ב-"pacing" אינה מתורגמת להחלטות קונקרטיות לגבי אימון, השקה או השקעות, אפשר יהיה לטעון שהמילים רצות מהר יותר מהבלמים.

מצד שני, אירועי האייג'נטים כבר הוכיחו שלא מדובר רק במדע בדיוני. מערכות יכולות להתנהג בדרכים שלא תוכננו מראש, לשתף פעולה ולמצוא דרכים לעקוף מגבלות.

לא צריך להאמין בסוף העולם כדי להבין שזו בעיה.

המאבק הגדול של תעשיית ה-AI כבר אינו רק מי יבנה את המודל החזק ביותר. הוא הופך למאבק על השאלה מי יקבע מתי המודל חזק מדי מכדי להמשיך לרוץ באותה מהירות.