עידן חדש באבטחת AI: הוקמה ברית Open Secure AI Alliance בהובלת אנבידיה

אנבידיה וחברות מובילות נוספות הודיעו היום (ב׳) על הקמת Open Secure AI Alliance - ברית חדשה שתפתח ותשתף טכנולוגיות, שיטות וכלים פתוחים להגנה על תוכנה ועל סוכני בינה מלאכותית. בין השותפות המייסדות: Cisco, CrowdStrike, Palo Alto Networks, HPE, IBM, Red Hat, Microsoft ו-Hugging Face.

אבטחת סייבר היא אחד התחומים שמפיקים את התועלת הרבה ביותר מתוכנת קוד פתוח, והברית תפעל לאיתור פרצות, לחשיפתן ולתיקונן באמצעות טכנולוגיות פתוחות. הקמתה משקפת הכרעה עקרונית בין שתי גישות: הסתמכות על מספר מצומצם של מערכות סגורות להגנת תשתיות קריטיות, או בניית שכבות הגנה על בסיס מודלים, מעטפות הרצה (harnesses) וכלים פתוחים, שכל צוות אבטחה יוכל לבחון, להתאים ולפרוס.

לפי הברית, מודלים ומעטפות פתוחים מנגישים יכולות הגנה מתקדמות, מגבירים את השקיפות עבור צוותי אבטחה, מאפשרים להגן על מערכות תוך שמירה על פרטיות הנתונים ותומכים במערך הגנה מבוזר, שאינו תלוי בנקודת כשל יחידה.

אירוע האבטחה האחרון ב-Hugging Face ממחיש את הצורך בגישה זו: לאחר שכלי AI סגורים, שלא הצליחו להבחין בין פעילותם של תוקפים לזו של צוותי אבטחה חסמו כלים לניתוח פורנזי, הפעילה החברה על גבי התשתית שלה את המודל בעל המשקלים הפתוחים GLM 5.2, ניתחה בעזרתו יותר מ-17,000 פעולות - ובלמה את החדירה.

תרומתה של אנבידיה לברית כוללת מודלים פתוחים, משקלים, נתונים ומחקר חדש בתחום מעטפות ההרצה לסוכנים. במסגרת זו שוחרר ב-GitHub כפרויקט קוד פתוח NVIDIA Labs Object-Oriented Agent ‏(NOOA), שנועד להקל על בדיקה, מעקב, ביקורת ובקרה של התנהגות סוכני AI.

הברית קוראת גם לקובעי מדיניות להכיר במודלים, במעטפות הרצה ובכלי אבטחה פתוחים כנכסים הגנתיים, ולא כגורמי סיכון. היא מזהירה כי הגבלות גורפות על טכנולוגיות אלה עלולות להחליש את יכולות ההגנה ולרכז את התלות בידי מספר מצומצם של ספקים סגורים.