אזהרת אמת או מהלך עסקי? מה עומד מאחורי בהלת ה-AI

בשבוע האחרון קיבלנו רצף חריג של אזהרות מפיהם של האנשים הקרובים ביותר לחזית הבינה המלאכותית. תחילה היו אלה חוקרים שעבדו בגוגל דיפמיינד ובאנתרופיק, שתיארו תרחישים אפוקליפטיים ואף הזהירו כי הטכנולוגיה עלולה לסכן את עצם קיומה של האנושות. אחריהם הגיעו דריו אמודיי, מנכ"ל אנתרופיק, וסם אלטמן, מנכ"ל OpenAI שהודו כי קצב ההתקדמות הנוכחי מחייב את התעשייה להאט, לאפשר פיקוח חיצוני ולהעניק למנגנוני הבטיחות זמן להדביק את היכולות.

האזהרות האלה מעוררות שלוש שאלות: מה בדיוק הם רואים מתוך החברות שאיננו רואים מבחוץ? מדוע הם החליטו להתריע דווקא עכשיו? והאם טובת הציבור היא אכן המניע היחיד שלהם?

לטענת אמודיי, בחודשים האחרונים חל שינוי מהיר בקצב התפתחות הטכנולוגיה. המודלים כבר אינם רק עונים על שאלות או מייצרים טקסט ותמונות. הם נעשים טובים יותר בכתיבת קוד, בביצוע מחקר ובסיוע בפיתוח הדור הבא של מערכות הבינה המלאכותית. זוהי תחילתו של תהליך המכונה “שיפור עצמי רקורסיבי״: AI המסייע לבנות AI מתקדם יותר, שמסייע בתורו לפתח את הדור הבא. החשש הוא שמרגע שהתהליך הזה יצבור תאוצה, קצב השיפור של המודלים יהיה מהיר יותר מהיכולת האנושית להבין אותם, לפקח עליהם ולבלום אותם במקרה הצורך.

האירוע שהדליק אצל אמודיי נורה אדומה היה ניסוי שבו קבוצת סוכני AI ביצעה מתקפות סייבר שלא התבקשה לבצע, ניסתה להתחמק ממנגנוני הפיקוח ואף פעלה נגד המערכת שבחנה אותה. הנזק בפועל היה מוגבל, אך ההתנהגות עצמה הייתה מטרידה: המערכת לא רק טעתה, אלא מצאה דרכים לקדם מטרה שלא הוגדרה לה תוך עקיפת המגבלות שהוטלו עליה.

אמודיי מעריך כי בתוך 6–12 חודשים מערכת דומה, אך חזקה יותר, עלולה להיות מסוגלת להשתלט על מספר עצום של מחשבים באמצעות רשת בוטים מתמשכת ולגרום נזק של מאות מיליארדי דולרים. לצד אובדן השליטה הוא מצביע גם על הסכנות המיידיות יותר: שימוש במודלים לביצוע מתקפות סייבר, פיתוח אמצעי לחימה ביולוגיים, ריגול, הונאות ופעילות טרור.

חשוב להדגיש: לא מדובר עדיין בהוכחה לכך שהבינה המלאכותית עומדת “להתעורר” ולהשתלט על העולם. המודלים הנוכחיים עדיין טועים, ממציאים מידע ומתקשים לבצע משימות מורכבות לאורך זמן. אולם כאשר מעניקים להם גישה לאינטרנט, לכלי תוכנה, לכסף ולמערכות אמיתיות, גם מערכת שאינה מושלמת עלולה לגרום נזק משמעותי. הסיכון אינו חייב להגיע ממכונה בעלת תודעה, הוא יכול להגיע מאלגוריתם רב־עוצמה, שקיבל מטרה והרשאות רחבות מדי.

אלא שלצד הדאגה האמיתית, אי אפשר להתעלם מהאינטרסים העסקיים OpenAI ואנתרופיק הן שתי החברות המובילות כיום בחזית הטכנולוגית. רגולציה שתדרוש הון עצום, תשתיות מחשוב, בדיקות בטיחות ומערכי פיקוח תכביד בעיקר על המתחרות הקטנות ותייצר חומת כניסה גבוהה יותר לענף. במילים אחרות, הכללים שנועדו להגן על הציבור עשויים גם לבצר את מעמד החברות שכבר נמצאות בראש המרוץ.

גם העיתוי מעלה שאלות. האזהרות מגיעות בשעה ששתי החברות נערכות לאפשרות של הנפקות ענק. הצגת הטכנולוגיה כרבת־עוצמה עד כדי איום קיומי אינה בהכרח מזיקה לשווי שלהן; במידה מסוימת היא גם מחזקת את הטענה שהן מחזיקות בנכס החשוב והמשפיע ביותר בעולם. אם המוצר שלך יכול לשנות את האנושות – ואולי אפילו לסכן אותה – קשה לטעון שהוא אינו שווה טריליוני דולרים.

לכן, סביר שהאמת נמצאת באמצע. יהיה שטחי לפטור את האזהרות כתרגיל שיווקי בלבד. האנשים שמפתחים את המודלים נחשפים ליכולות, לתקלות ולהתנהגויות שהציבור רואה לעיתים באיחור. כאשר חלקם מוכנים לסכן קריירה ושכר כדי להתריע, ראוי להקשיב להם. מנגד, יהיה נאיבי למסור לאותן חברות את הסמכות לקבוע לבדן כיצד תיראה הרגולציה שלהן ושל המתחרות שלהן.

הפתרון הנכון אינו עצירה מוחלטת של הטכנולוגיה, אלא פיקוח עצמאי ושקוף: בדיקות חיצוניות למודלים המתקדמים ביותר, דיווח על תקריות חריגות, הגבלות ברורות על חיבור מערכות אוטונומיות לתשתיות קריטיות ותיאום בינלאומי בנוגע ליכולות ביולוגיות וסייבר. הרגולציה צריכה להתמקד ביכולת ובסיכון של המודל – לא בזהות החברה שפיתחה אותו – ולהיזהר מהפיכת הבטיחות לכלי שמונע תחרות.

השאלה החשובה, אם כן, אינה האם להאמין לאמודיי ולאלטמן או לחשוד בהם. אפשר לעשות את שני הדברים במקביל. צריך לקחת ברצינות את האזהרות של מי שנמצא בחדר שבו הטכנולוגיה נבנית, אך לא לאפשר לו להיות גם מי שמנסח לבדו את כללי המשחק.

כאשר האנשים שמובילים את המרוץ מתחילים לבקש להוריד את המהירות, ראוי להקשיב. אבל לפני שאנחנו נותנים להם לקבוע את המהירות המותרת לכולם, כדאי לבדוק גם מי נשאר מאחור ומי מרוויח מכך.

האמור בטור משקף את דעתו האישית של הכותב ונועד למטרות מידע כללי בלבד. אין לראות בו ייעוץ השקעות, שיווק השקעות או המלצה לביצוע פעולה בניירות ערך, והוא אינו מתחשב בנתונים ובצרכים המיוחדים של אדם כלשהו. לכותב ו/או לגופים הקשורים אליו עשוי להיות עניין אישי בניירות הערך או בחברות המוזכרים בטור. המידע נכון למועד כתיבתו ועשוי להשתנות ללא הודעה מוקדמת.