אנבידיה משקיעה 250 מיליון דולר בבטיחות AI

ההתחייבות, שעליה דיווחה רויטרס הבוקר, 14 באוקטובר, כוללת הקצאת משאבי מחשוב בשווי 50 מיליון דולר בשנה במשך חמש שנים. מדובר בהעמדת יכולות מחשוב למחקר ולא בתרומה כספית ישירה. 

לא לעצור את המרוץ, אלא להשקיע בבטיחות

הודעת אנבידיה מגיעה על רקע המחלוקת שהתפתחה בעקבות מאמרו של דריו אמודאי, מנכ"ל Anthropic, שקרא להאטה מבוקרת בהתקדמות המודלים המתקדמים.

בניגוד לאמודאי, הואנג אינו מציע להאט את פיתוח יכולות ה-AI. הגישה שהוא מציג מתמקדת בפיתוח פתרונות הנדסיים שיאפשרו להתקדם תוך שיפור מנגנוני הבטיחות.

ההתחייבות החדשה תתמקד במחקר של מערכות AI אוטונומיות, אבטחת מודלים, סביבת הפעלה מאובטחת ופיתוח שיטות להערכת בטיחות.

בין המוסדות שישתתפו בתוכנית נמצאים מעבדת BOLD בהובלת אוניברסיטת אוקספורד, מעבדת SOFAIR בהובלת University College London ואימפריאל קולג' לונדון.

מרבית משאבי המחשוב מיועדים לקהילת מחקר הבטיחות הרחבה בבריטניה. ההקצאה תתבצע באמצעות שותפי הענן הבריטיים של אנבידיה. בחירת הספקים והתנאים המסחריים טרם הושלמו.

האם הואנג משנה את עמדתו?

לא בהכרח.

לאחרונה התעמת הואנג עם ג'פרי הינטון, ממובילי המחקר בבינה מלאכותית, סביב הערכותיו בדבר הסיכון שהטכנולוגיה תגרום לאסון בקנה מידה עולמי.

אולם כבר ב-28 בספטמבר הציגה אנבידיה פלטפורמה לאבטחת סוכני AI, הכוללת מנגנוני ניטור ובקרה שנועדו לזהות ולבודד סוכנים הפועלים מחוץ לגבולות שהוגדרו להם.

ההשקעה החדשה ממשיכה אפוא גישה קיימת: פיתוח פתרונות בטיחות טכנולוגיים במקום הגבלת קצב התקדמות המודלים.

המשמעות למשקיעים

ההתחייבות החדשה ממחישה שבטיחות AI מתפתחת לתחום השקעות בפני עצמו.

עבור אנבידיה, המהלך עשוי לחזק את מעמדה לא רק כספקית שבבים ותשתיות מחשוב, אלא גם כספקית טכנולוגיות להפעלה מאובטחת של מערכות אוטונומיות.

ההקצאה באמצעות שותפי הענן שלה עשויה לתמוך גם באקוסיסטם המסחרי של החברה.

עם זאת, אין לראות ב-250 מיליון הדולר הכנסה חדשה, השקעה הונית בהיקף זה או הוצאה שתוכר בהכרח במלואה באופן מיידי. מדובר בשווי משאבי המחשוב שהחברה התחייבה להעמיד במשך חמש שנים.

לא פורסמו נתונים המאפשרים להעריך את השפעת המהלך על הכנסות אנבידיה או על רווחיותה, ואין בסיס לייחס לו שינוי במחיר המניה.

הקשר הישיר למאמר אמודאי

אין ראיה שהתחייבות אנבידיה היא תגובה ישירה למאמר We Must Pace the Frontier.

עם זאת, זהו צעד עסקי חדש ומשמעותי בתחום שבו מתמקדת המחלוקת: היכולת לפתח מערכות AI חזקות יותר בלי לאבד את השליטה בהתנהגותן.

ההבדל המרכזי נותר בעינו: אמודאי קורא להאטה מכוונת בקצב פיתוח היכולות, בעוד הואנג מבקש לקדם את היכולות ואת פתרונות הבטיחות במקביל.

השורה התחתונה: אנבידיה מציגה התחייבות ממשית למשאבי מחקר בהיקף משמעותי, אבל אינה מתחייבת להאט את פיתוח הבינה המלאכותית. המחלוקת העקרונית על קצב ההתקדמות נותרת פתוחה.