מהמודל אל השבב: אנבידיה וצ׳ק פוינט מרחיבות את מערך ההגנה על סוכני AI

בזמן שחברות הטכנולוגיה מגדילות את מספר המשימות שהן מפקידות בידי סוכני בינה מלאכותית, מתחיל להתגבש גם ענף התשתיות שנועד להגביל את כוחם. הודעות שפורסמו ב-21 וב-22 באוקטובר מצביעות על מעבר מהסתמכות על הוראות בטיחות שניתנות למודל עצמו, להגנות הנאכפות בתוכנה, בהרשאות הגישה ובחומרה.

אנבידיה: אפשר לעצור סוכן גם מחוץ לסביבת הפעולה שלו

בכנס GTC בברלין הכריזה אנבידיה ב-21 באוקטובר על OpenShell Reference Architecture, ארכיטקטורת ייחוס להפעלת סוכני AI בסביבה ארגונית. התשתית מחברת בין מערכות החישוב מסדרת Vera Rubin, סביבת התוכנה OpenShell ומעבדי התשתית BlueField-4 שעליהם פועל רכיב האבטחה NVIDIA Sentry.

הרעיון הוא להפריד בין הסוכן שמבצע את המשימה לבין המערכת שמוסמכת לעצור אותו. לפי אנבידיה, Sentry יכול לזהות חריגה מגבולות הפעולה שהוגדרו ולבודד סוכן בתוך אלפיות שנייה. זהו נתון שהחברה מפרסמת על יכולות המוצר, ולא תוצאה של בדיקה עצמאית שפורסמה עם ההודעה. תוכנת OpenShell עצמה הוצגה כבר במארס; החידוש כעת הוא הרחבתה לארכיטקטורה משולבת הכוללת גם אכיפה ברמת החומרה.

צ׳ק פוינט: לא כל פעולה מותרת היא פעולה נכונה

צ׳ק פוינט, שנכללה ברשימת שותפות האבטחה בהכרזת אנבידיה, הציגה באותו יום את אופן השתלבותה במערך. החברה מתארת שכבת פיקוח שבוחנת לא רק אם לסוכן מותר להשתמש בכלי מסוים, אלא גם אם הפעולה שהוא מתכנן לבצע מתאימה למשימה המקורית.

בדוגמה שמציגה צ׳ק פוינט, סוכן רכש רשאי לשלוח דואר אלקטרוני, אך במהלך עבודתו מנסה להעביר החוצה קובץ מחירים חסוי. שכבת הפיקוח אמורה למנוע את שליחת הקובץ ולהנחות את הסוכן להמשיך בדרך בטוחה יותר. מדובר בדוגמת פעולה שמסרה החברה להמחשת הפתרון, ולא בתיאור אירוע לקוח מאומת. צ׳ק פוינט גם מבהירה כי שילוב רכיבי המערכת מתקדם בשלבים; ההכרזה אינה הוכחה לפריסה מלאה אצל לקוחות או להכנסות חדשות.

1Password: הסוכן נכנס לחשבון בלי לראות את הסיסמה

ב-22 באוקטובר הודיעה 1Password על הרחבת פתרונותיה למגוון סוכני AI אישיים באמצעות 1Password for Agents. הסוכן מבקש הרשאה לשימוש בפרטי התחברות שמורים, והמשתמש מאשר את הבקשה במכשירו. מערכת 1Password מזינה את הפרטים לאתר היעד בלי למסור לסוכן את הסיסמה עצמה. החברה מדווחת על שילובים שנפרסים כעת לצד שילובים נוספים שעדיין מתוכננים; היכולת אינה זמינה בהכרח לכל הסוכנים שהוזכרו.

הפתרון ממשיך גישה שהחברה החלה ליישם קודם לכן, בין היתר עם Claude, ולכן אינו המצאה ראשונה של הגנה כזאת. אך הרחבתה למספר מערכות מתחרות ממחישה כיצד ניהול ההרשאות הופך לשכבה משותפת בין ספקיות המודלים לבין השירותים הפיננסיים והעסקיים שבהם הסוכנים פועלים.

המשמעות למשקיעים: בטיחות AI מתפתחת לשוק תשתיות

ההודעות מצביעות על שלושה מוקדי השקעה אפשריים: חומרה ותוכנות להפעלה מבוקרת של סוכנים, ניטור ואכיפה של מדיניות האבטחה בזמן אמת, וניהול זהויות והרשאות. עבור אנבידיה, הגנות כאלה עשויות לחזק את ההצעה הכוללת שלה למרכזי נתונים. עבור צ׳ק פוינט וחברות אבטחה מתחרות, הן עשויות לפתוח אפיקי מכירה חדשים. עבור ServiceNow, שהודיעה כי סוכן Arc שלה זמין כעת לשימוש מסחרי ושילוב נוסף עם NVIDIA Sentry עוד צפוי בעתיד, מדובר בניסיון להפוך את ניהול הסוכנים לחלק ממערכות הליבה הארגוניות.

עם זאת, רשימת שותפים אינה שקולה לחוזה בעל ערך כספי, וזמינותה של ארכיטקטורת ייחוס אינה מוכיחה אימוץ רחב. בהודעות לא פורסמו הכנסות צפויות מהשילובים, ואין בסיס לייחס להן תנודות בשערי מניות. המבחן העסקי יהיה האם החברות יצליחו להראות שארגונים מוכנים לשלם עבור בקרה עצמאית על סוכנים, ועד כמה ההגנות יעמדו בניסיונות עקיפה בעולם האמיתי.