הבנקים נדרשים להוכיח שהם שולטים בסוכני ה-AI

לפי תחקיר רויטרס מ-13 באוקטובר, הפדרל ריזרב, משרד המפקח על המטבע האמריקאי (OCC) והתאגיד הפדרלי לביטוח פיקדונות (FDIC) מבררים עם בנקים כיצד הם מגבילים, מנטרים ומשביתים סוכני AI. הבירורים כוללים שימוש במודלים זרים, ובהם סיניים. באירופה מופעל לחץ לשיפור תוכניות התאוששות. הדיווח מבוסס על מקורות המעורים בנושא; שלוש הרשויות האמריקאיות סירבו להגיב. זהו שלב איסוף מידע, ולא פרסום הוראות אמריקאיות חדשות.

המשמעות רחבה יותר מעוד שאלון טכנולוגי. דמיינו סוכן שנועד לסייע לצוות אבטחה, מזהה פעילות חשודה ומנתק בטעות רכיב הדרוש להעברת תשלומים. אין כאן בהכרח האקר שהצליח לפרוץ לבנק, וגם לא מערכת שפיתחה רצון עצמאי. די בטעות, בהרשאה רחבה מדי ובמנגנון אישור חלש כדי להפוך כלי שנועד להגן על הבנק למקור של הפרעה. זהו תרחיש המחשה, לא תיאור של אירוע שאומת בבנק מסוים.

לכן השאלה איננה רק כמה עובדים יכולה המערכת לחסוך או באיזו מהירות היא מאתרת תקלה. השאלה היא איזו סמכות ניתנה לה, מה יקרה אם תשתמש בה באופן שגוי, וכמה זמן יידרש לארגון להחזיר את השירות ללקוחות. כאשר המערכת המטופלת היא בנק, הזמן הזה עלול להיות בעל משמעות גם מחוץ לגבולותיו.

שלושה סיכונים שונים, שמחייבים שלוש תשובות

הסיכון הראשון מגיע מבחוץ: עבריינים או גורמים עוינים משתמשים ב-AI כדי לשפר את יכולת התקיפה. בנאום מ-3 ביוני הסביר פרנק אלדרסון מהבנק המרכזי האירופי כי המודלים משנים את סביבת הסייבר באמצעות האצת זיהוי החולשות וניצולן. באותו נאום ציין כי יותר מ-85% מהבנקים שבפיקוח הבנקאי האירופי משתמשים בבינה מלאכותית. הנתון מתייחס לשימוש ב-AI בכלל, ולא לכך שכל אותם בנקים מפעילים סוכנים אוטונומיים בעלי הרשאות רחבות.

הסיכון השני נוצר בתוך הארגון: מערכת שקיבלה גישה לגיטימית מפעילה כלי, משנה מידע או מבצעת פעולה החורגת מן המשימה. בהנחיות הטכניות של מיקרוסופט מודגש שהרשאות של סוכן עלולות להצטבר לאורך שרשרת של כלים ומערכות. לכן בדיקת המודל לבדו אינה מספיקה; צריך להבין גם מה מאפשרת לו התשתית שסביבו.

הסיכון השלישי הוא פיננסי: ההשקעות בבינה מלאכותית ממומנות גם באמצעות חוב, ומחירי נכסים מושפעים מהציפיות להכנסות עתידיות. ירידה בציפיות האלה אינה מתקפת סייבר, אך היא עשויה לפגוע במלווים ובמשקיעים. הפרדה בין שלושת הסיכונים מונעת בלבול: מערכת בטוחה יותר אינה מבטיחה השקעה טובה, והשקעה רווחית אינה מוכיחה שמערכת תפעולית בטוחה.

באירופה כבר נקבע יעד: 31 באוקטובר

במכתב רשמי מ-7 ביולי ביקשה קלאודיה בוך, יו"ר מועצת הפיקוח של הבנק המרכזי האירופי, מהבנקים המשמעותיים שבפיקוחו להגיש לצוותי הפיקוח תוכנית פעולה עד 31 באוקטובר 2026. התוכנית אמורה לכלול צעדים קונקרטיים, הקצאת משאבים, חלוקת אחריות ולוחות זמנים. זהו מועד שנקבע ביולי, לא דרישה שנולדה בעקבות הדיווח החדש מאוקטובר.

בין התחומים שנקבעו: האצת תיקוני אבטחה, חיזוק הניטור והזיהוי, בדיקת סיכוני ספקי הטכנולוגיה ושדרוג מערכות ישנות או כאלה שאינן נתמכות עוד. המכתב מדגיש גם היערכות להתאוששות וניהול משבר. הוא מציב את האחריות בראש ובראשונה אצל גופי הניהול של הבנק, ולא רק במחלקת המחשוב.

זהו שינוי חשוב בנקודת המבט הניהולית. הצגת מוצר אבטחה או ועדת AI פנימית אינה שקולה לתוכנית מתוקצבת שאפשר לבדוק את ביצועה. כדי להבין את רמת המוכנות, צריך לשאול מי אחראי לכל פער, מהו מועד התיקון, ואיך נבדק שהפתרון עובד גם בתרחיש של לחץ.

חולשה אצל ספק אחד יכולה להפוך לבעיה של בנקים רבים

כבר ביולי פרסמה המועצה האירופית לסיכונים מערכתיים (ESRB) אזהרה בעקבות העלאת הערכת סיכון הסייבר המערכתי. המסמך הנלווה מצביע על תלות בספקי טכנולוגיה משותפים וברכיבי קוד פתוח הנמצאים בשימוש רחב. הוא מזהיר ששיבוש המתפשט דרך תשלומים, סליקה או תשתית שקשה להחליף עלול לפגוע באמון ולהגביר תנודתיות פיננסית.

המשמעות פשוטה: פיזור בין בנקים אינו מבטיח פיזור בין תשתיות. שני בנקים יכולים להתחרות על הלקוחות, אבל להשתמש באותו ספק ענן או ברכיב תוכנה משותף. מבחינה אנליטית, כשל ברכיב הזה עלול ליצור מתאם בין הפסדים שהמשקיע חשב שהם נפרדים. השאלה אינה רק מי הבנק, אלא גם במי הוא תלוי.

לתלות הזאת יש תקדים שאינו קשור בהכרח ל-AI. בניתוח שפרסמה קרן המטבע באפריל 2024 הוזכרה מתקפת כופרה על ספק טכנולוגיה בענן, שגרמה ב-2023 להשבתות בו-זמניות אצל 60 איגודי אשראי אמריקאיים. המקרה אינו ראיה למתקפה שבוצעה באמצעות בינה מלאכותית; הוא ממחיש כיצד ספק משותף עשוי להעביר הפרעה למספר רב של גופים.

מבחן הסוכן: לא רק תשובה נכונה, אלא פעולה מורשית

בניהול סיכונים של סוכן AI, איכות התשובה אינה המדד היחיד. סוכן יכול לנסח הסבר משכנע ובכל זאת להשתמש בהרשאה שאינה נחוצה לו. מיקרוסופט ממליצה על זהות ייעודית לסוכן, סמכויות המוגבלות למשימה, אישורים לפעולות רגישות ותיעוד המקשר בין זהות הסוכן, הפעולה והמשאב שבו השתמש. אלה הנחיות טכניות של ספק, ולא תקנות בנקאיות.

בתרחיש המחשה, סוכן שמכין דוח על לקוח זקוק לקריאת נתונים מסוימים, אך לא בהכרח לרשות לשנות את פרטי החשבון. סוכן המנתח אירוע אבטחה יכול להמליץ על בידוד מערכת, בלי להיות מוסמך לנתק באופן עצמאי שירות תשלומים. ההפרדה בין המלצה לביצוע מאפשרת לארגון לבחור במפורש אילו פעולות דורשות שיקול דעת אנושי.

גם כפתור השבתה אינו סוף הבדיקה. לפי מיקרוסופט, עצירת סוכן עלולה להיות חלקית אם אישורי גישה נותרים תקפים או אם מערכות המשך אינן בודקות מחדש את ההרשאות. מכאן נובע מבחן מעשי: האם ההשבתה מבטלת את היכולת לפעול לכל אורך השרשרת, ולא רק סוגרת את חלון השיחה.

הגיבוי חשוב, אבל יכולת ההתאוששות חשובה יותר

הצורך להמשיך לתפקד בזמן משבר אינו המצאה של עידן ה-AI. עקרונות ועדת באזל לחוסן תפעולי ממרץ 2021 נועדו לחזק את יכולת הבנקים לעמוד באירועים כמו תקלות טכנולוגיה, מתקפות סייבר ואסונות. הם מחברים בין ממשל תאגידי, המשכיות עסקית, תלות בספקים וניהול סיכונים. הטכנולוגיה החדשה אינה מבטלת את העקרונות האלה; היא מחייבת לבחון אם היישום שלהם עדיין מתאים.

מבחינה תפעולית, העתק נוסף של מידע אינו בהכרח מסלול חזרה לשירות. אם הסביבה החלופית תלויה באותם פרטי גישה שנפגעו או באותו רכיב תקול, היא עלולה להיכשל יחד עם הסביבה הראשית. בנק צריך לתכנן לא רק כיצד לשמור נתונים, אלא כיצד להקים מחדש פעילות שניתן לסמוך על שלמותה.

למשל, בתרגיל היערכות אפשר לשאול אילו שירותים חייבים לחזור ראשונים, כיצד מוודאים שלא שוחזר מידע שגוי, ואיך מציגים ללקוח מצב חשבון אמין במהלך השיקום. אלה שאלות ניהוליות והנדסיות, לא תחזית לכך שמערכות הבנקים עומדות לקרוס. ההבחנה חשובה במיוחד כשהדיון הציבורי נוטה לעבור במהירות מתרחיש סיכון לכותרת על אסון.

צוואר הבקבוק: למצוא חולשות מהר יותר זה רק חצי מהפתרון

מסמך של בנק אנגליה מ-2 בספטמבר מדגיש שהערך של מודל סייבר תלוי במעטפת הכלים, ההרשאות ותהליכי העבודה שסביבו. המודל צריך לקבל הקשר מתאים, והממצאים שלו צריכים לעבור אימות, תעדוף וטיפול. הבנק מבהיר שהפרסום מסכם דיון מקצועי ואינו קובע דרישות פיקוח חדשות.

המסמך מצביע על מגבלה מעשית: היכולת לייצר עוד ממצאים עלולה להקדים את יכולת צוותי ההנדסה לטפל בהם. התרעות שווא, עומס אימות ומחסור בכוח אדם יכולים להפוך לצוואר בקבוק. לכן מספר החולשות שנמצאו אינו מדד מספיק להצלחת ההגנה; צריך לבחון מה תוקן, באיזו מהירות ובאיזו רמת ביטחון.

מכאן גם הדילמה הכלכלית. כלי זול שמפיק אלפי התרעות לא בהכרח חוסך כסף אם כל התרעה דורשת זמן רב של מומחה. לעומתו, מערכת יקרה יותר עשויה להצדיק את מחירה אם היא מקטינה עבודה מיותרת ומסייעת לסגור את החולשות שבאמת מסכנות את העסק. זו מסגרת לבחינת כדאיות, לא השוואה בין מוצרים מסוימים.

קרן המטבע: הסיכון אינו מסתיים בחדר השרתים

לפי רויטרס, בסיקור דוח היציבות הפיננסית מאוקטובר, קרן המטבע מזהירה שמינוף עלול להחריף תיקון בהשקעות AI. מפעילות תשתיות הענן הגדולות אחראיות לכ-10% מהנפקות האג"ח העולמיות בדירוג השקעה, לעומת פחות מ-1% ב-2024. במבחן קיצון רחב של הקרן, שאינו מתמקד רק ב-AI, המערכת הבנקאית נותרת עמידה בכללותה, אך בנקים המחזיקים 22% מהנכסים הבנקאיים העולמיים נמצאו בעלי כריות הון חלשות בתרחיש, לעומת 18% במבחן הקודם. אין מדובר בהודעה ש-22% מהנכסים נמצאים כיום בבנקים כושלים.

הקשר בין מימון ה-AI לבין היציבות כבר הודגש גם בפרוטוקול ועדת המדיניות הפיננסית של בנק אנגליה מספטמבר. הוועדה ציינה שהגידול בחוב הקשור ל-AI הרחיב את חשיפת שוקי ההון לענף, במקביל לעליית סיכוני הסייבר והתפעול.

מבחינה כלכלית, כך נוצרות שתי דרכי פגיעה שונות. בדרך אחת, אירוע טכנולוגי משבש פעילות ומייצר הוצאות שיקום. בדרך השנייה, ירידה בציפיות לרווחי AI פוגעת בשווי השקעות וביכולת של לווים למחזר חוב. בתרחיש קיצון הן עלולות להתחבר, אך אין בסיס לקבוע שכך יקרה. זהו בדיוק ההבדל בין מבחן עמידות לבין תחזית מרכזית.

מה צריך לעניין את הדירקטוריון ואת המשקיע?

אנדרו ביילי, נגיד בנק אנגליה, כתב ב-30 בספטמבר כי נדרשות בדיקות לפני הפעלת המודל ולאחריה, לצד נקודות התערבות אמינות. הוא הדגיש שבדיקות אינן מבטלות כשלים ושצריך ללמוד גם מתקריות ומאירועים שכמעט גרמו נזק. זאת גישה של ניהול סיכון מתמשך, ולא של אישור חד-פעמי ביום ההשקה.

למשקיע בבנק, משמעות הדבר היא שהבטחת התייעלות באמצעות AI צריכה להיבחן מול העלות הכוללת. חיסכון בעבודה ידנית עשוי להיות אמיתי, אבל ממנו יש להפחית את עלויות ההטמעה, הבקרה, האבטחה והטיפול בחריגות. במקביל צריך לשאול האם צמצום עלויות היום יוצר חשיפה להוצאה גדולה בעתיד.

בדיקה שימושית תתמקד במדדים של תפקוד: היכולת לשחזר פעילות חיונית, הזמן לביטול הרשאות, שיעור תיקון החולשות והיקף התלות בספקים בודדים. אין הכרח שכל בנק יפרסם לציבור פירוט אבטחתי רגיש. עם זאת, הדירקטוריון צריך לקבל תמונה שמאפשרת לו לבחון את רמת המוכנות, והמשקיע צריך להבין כיצד היא משתלבת בתוכנית העסקית.

הזדמנות לסייבר, אך לא הבטחה לרווח

הצורך בבדיקות, בניטור ובהתאוששות עשוי להרחיב שווקים לספקי אבטחה, ניהול זהויות ושירותי טכנולוגיה. אולם גידול בסיכון אינו מבטיח גידול ברווח של כל חברה הנושאת את התווית AI. ייתכן שחלק מהיכולות ייכללו בחבילות ענן קיימות, וחלק מהעבודה יישאר בתוך הבנקים עצמם.

לכן, גם למשקיע ישראלי בחברות בנקאות או סייבר, המבחן צריך להיות מסחרי: חוזים, היקף שימוש, שולי רווח, עלויות שירות ושימור לקוחות. הכתבה אינה מצביעה על פגיעה בבנק ישראלי מסוים או על דרישה חדשה של בנק ישראל, ואין בדיווחים בסיס לייחס לתהליך הפיקוח תנודה במניה מסוימת.

השורה התחתונה: האתגר אינו לבחור בין שימוש ב-AI לבין הימנעות ממנו. האתגר הוא להראות שהבנק מסוגל להפיק ממנו ערך, להגביל את סמכויותיו ולהמשיך לספק שירות גם כאשר הוא נכשל. מערכת הון חזקה היא חיונית; היא אינה תחליף ליכולת להחזיר ללקוח גישה בטוחה לכספו.