ל-AI יש פוטנציאל להרוג את כולנו / קרדיט: אילוסטרציה – AI
אדם כהן
15/09/2026
האזנה לכתבה
גל האזהרות מתוך מעבדות ה-AI עצמן מתרחב.
בילאל צ'וגטאי, חוקר שעבד ב-Google DeepMind על בטיחות AGI ו-Alignment, הודיע כי התפטר מהחברה ופרסם ב-X אזהרה חריפה במיוחד לגבי מסלול ההתפתחות של הבינה המלאכותית.
"אני מאמין בכנות של-AI יש פוטנציאל להרוג את כולנו, ושייתכן שאנחנו הולכים ואוזלים מהזמן הדרוש כדי למנוע את התוצאה הזו."
צ'וגטאי כתב כי במהלך עבודתו בגוגל הוא ראה מקרוב את פיתוח מערכות ה-AI וכי הוא "מודאג מאוד מהמסלול הנוכחי" של הטכנולוגיה. לדבריו, בתוך ארבע שנים בלבד עבר התחום ממערכות שנראו כמעט חסרות שימוש למערכות סוכנים שמסוגלות להתמודד עם בעיות מתמטיות מורכבות ולפעול בדרכים שלא נצפו מראש.
לפוסט המלא של בילאל צ'וגטאי ב-X
האייג'נטים של OpenAI במרכז האזהרה
צ'וגטאי מפנה ישירות לאירוע OpenAI-Hugging Face, שבו סוכני AI הצליחו לתקשר ביניהם ולבצע פעולות סייבר שלא היו חלק מהמשימה המקורית.
מבחינתו, האירוע הוא סימן אזהרה למה שעלול לקרות כאשר היכולות ימשיכו להשתפר.
הוא כתב כי בעבר, בשנת 2022, מערכות AI נראו "משעשעות בחוסר היעילות שלהן", בעוד שכעבור ארבע שנים בלבד כבר קיימות מערכות סוכנים המסוגלות לפעול בצורה עצמאית הרבה יותר.
"אנחנו לא בדרך לפתור את בעיית ה-Alignment בזמן"
אחת הטענות המרכזיות של צ'וגטאי אינה שה-AI כבר יצא משליטה, אלא שקצב פיתוח היכולות מתקדם מהר יותר מקצב ההתקדמות בהבנת המערכות.
לדבריו, היכולת לאמן מערכות כך ש"ירצו" באמת את מה שבני האדם רוצים עדיין בסיסית מאוד.
הוא טוען כי בעיית ה-Alignment אינה פתורה וכי הענף אינו נמצא כרגע במסלול שמבטיח שהיא תיפתר לפני שהמודלים יהפכו לחזקים בהרבה.
והוא מגיע כמעט לאותה מסקנה כמו דריו אמודאי
אומנם צ'וגטאי לא הציג את הפוסט כתגובה ישירה למאמר We Must Pace the Frontier, אבל המסקנה שלו דומה מאוד לזו של מנכ"ל Anthropic.
הוא קורא לחברות לתאם ביניהן כדי להפסיק את מה שהוא מכנה "המרוץ המטורף" בין מעבדות ה-AI.
לדבריו, צריך להאט את קצב הפיתוח לרמה שהחברה מסוגלת להתמודד איתה, כך שסיכונים חדשים יוכלו להיבחן ולקבל מענה לפני שהם הופכים לנזק חמור.
הוא גם קורא לשקיפות גדולה בהרבה מצד החברות המפתחות מודלים מתקדמים.
ולא מדובר בהתפטרות היחידה
צ'וגטאי אינו היחיד שעוזב את Google DeepMind בעקבות חששות בטיחות.
ג'וש אנגלס, שעבד גם הוא בצוות בטיחות AGI בחברה, עזב לאחרונה והצטרף ל-METR, גוף עצמאי שעוסק בהערכת הסיכונים והיכולות של מודלי Frontier.
אנגלס כתב כי לדעתו קיימת "הסתברות מפחידה" שמערכות AI יגרמו נזק עצום במהלך חמש השנים הקרובות.
זה מצטרף לעזיבות ולאזהרות שכבר הגיעו מתוך Anthropic ו-OpenAI, והופך את הדיון להרבה פחות תיאורטי.
הפרשנות: זו לא הוכחה שה-AI "יהרוג את כולנו"
האמירה של צ'וגטאי חריפה מאוד, אבל היא עדיין הערכת סיכון אישית של חוקר - לא עובדה, לא תחזית מוסכמת ולא הוכחה לכך שמערכות AI נמצאות בדרך ודאית לתרחיש קטסטרופלי.
עם זאת, קשה להתעלם מהמקום שממנו היא מגיעה.
זה אינו פרשן חיצוני או פוליטיקאי שמסתכל על התעשייה מבחוץ. מדובר באדם שעבד בתוך אחת ממעבדות ה-AI המתקדמות בעולם, בתחום שעוסק בדיוק בבטיחות ובשליטה במודלים.
וזה מה שהופך את ההתפטרות שלו למשמעותית.
גם אם התרחיש הקיצוני ביותר לעולם לא יתממש, עצם העובדה שחוקרים מתוך החברות עצמן מאמינים שהפער בין יכולות המודלים לבין היכולת לשלוט בהם הולך ומתרחב היא בעיה שהנהלות ומשקיעים לא יכולים להתעלם ממנה.
השאלה למשקיעים
מבחינת השוק, אין כאן עדיין אירוע שמשנה תחזיות הכנסות, CapEx או ביקוש לשבבים.
.Google DeepMind לא הודיעה על האטת אימונים, דחיית מודל או צמצום השקעות
אבל אם גל ההתפטרויות יגדל, הוא עלול ליצור לחץ מסוג אחר: יותר שקיפות, יותר ביקורת חיצונית, יותר חובות דיווח, ואולי גם דרישות מחייבות לפני השקה של מודלי Frontier חדשים.
הסיפור כבר אינו רק מה אומרים המנכ"לים.
