נפתלי בנט מזהיר מפני הסכנות של הבינה המלאכותית AI

‏

אני חושב שאנחנו עדיין לא מתחילים להפנים את עוצמת מהפכת הבינה המלאכותית.
וברשותכם, אני אקח כמה דקות להסביר איפה אנחנו נמצאים במפת התפתחות הבינה המלאכותית,
אילו תהליכים קורים, לאן זה הולך, ומה זה אומר עבורנו.

הבינה המלאכותית נהיית חכמה יותר מיום ליום,
ויש תחרות בין בוני המערכות הגדולות—
מודלי השפה הגדולים (LLMs) כמו גוגל, מטא, OpenAI ואחרים,
שכולם משפרים את היכולות של הבינה המלאכותית.

---

שלוש הדרכים להפוך את הבינה המלאכותית לחכמה יותר

יש שלוש דרכים עיקריות להפוך את הבינה המלאכותית לחכמה יותר:

1. כוח מחשוב –
   חוות שרתים ענקיות,
   עוד כרטיסי GPU של Nvidia,
   ובאמת נבנים כעת מרכזי נתונים (Data Centers) בקנה מידה חסר תקדים.
2. כמות ואיכות הנתונים –
   כל מערכת בינה מלאכותית מתחילה כמו תינוק שזה עתה נולד—
   היא לא יודעת כלום,
   ואז, עם חשיפה למידע, היא נעשית חכמה יותר.
   באופן כללי, האינטרנט כבר נצרך כמעט כולו על ידי כל מודלי השפה הגדולים (LLMs),
   וכעת מחפשים מקורות מידע נוספים.

המקור הגדול הבא הוא העולם האמיתי, שעדיין לא כוסה במלואו.
למשל:

2. • לראות שכאשר עוזבים דף נייר הוא נופל,
     אבל הוא לא נופל כמו אבן.
   • להאזין לשיחות של אנשים.
   • לצפות באינטראקציות אנושיות.
   • טסלה היא מקור נתונים עצום,
     כי כל המכוניות שלה מצלמות ומקליטות כל הזמן.
3. שיפורים ופריצות דרך באלגוריתמים –
   לפני שבועיים הייתה התפתחות דרמטית עם DeepSeek.
   למרות שאין להם יתרון בכוח חישובי,
   והם בנחיתות גם מבחינת נתונים,
   הם הצליחו להביא כמה פריצות דרך אלגוריתמיות משמעותיות.

השיפור בבינה המלאכותית נובע מהשילוב של שלושת הגורמים הללו.

---

איפה אנחנו נמצאים היום?

כיום, רמת האינטליגנציה של הבינה המלאכותית
היא כמו של בוגר קולג' אינטליגנטי
שמבין את רוב הדברים בעולם. רמה טובה מאוד.

השלב הבא נקרא בינה מלאכותית כללית (AGI - Artificial General Intelligence).
כלומר, אינטליגנציה מלאכותית כללית,
שתהיה שוות ערך לאנשים החכמים ביותר בעולם  כיום,
אבל לא רק בתחום מסוים—
בכל תחום אפשרי.

כיום, כשאתם משוחחים עם בינה מלאכותית,
היא חכמה,
אבל היא לא האדם הכי חכם שפגשתם.
בעתיד, היא תהיה כמו 1,000 האנשים החכמים ביותר בעולם—אבל בכל התחומים יחד.

וזה הכיוון שאליו אנחנו חותרים.

---

מה קורה כאשר נגיע ל-AGI?

זה יכול לקחת שנה, שנתיים או 50 שנה. אני נוטה יותר לשנתיים.

ברגע שנגיע לבינה מלאכותית כללית (AGI),
ניכנס לאזור חדש שנקרא "התפוצצות אינטלקטואלית" (Intelligence Explosion).

מה יקרה אז?

כיום, ב-OpenAI, מטא, גוגל, טסלה,
יש 100, 200, 1,000 או 2,000 חוקרי בינה מלאכותית
שעובדים על פיתוח אלגוריתמים.

אבל ברגע שנגיע ל-AGI,
יהיו 200 מיליון חוקרים וירטואליים,
וכל אחד מהם יהיה חכם כמו האנשים הכי חכמים ב-OpenAI היום.

המשמעות?
קצב ההתקדמות יהיה מטורף.

---

מה קורה כאשר מגיעים לאינטליגנציה ברמות של 200, 300, 400 IQ?

לשם האילוסטרציה היום אנחנו ב 80, 100, 120 , 130 IQ

כשיש 200 מיליון חוקרי בינה מלאכותית,
והם מייצרים אין-סוף פריצות דרך,
פתאום נגיע לרמות של 200, 300, 400 IQ.

מה זה בכלל אומר?

באינטליגנציה יש שני היבטים עיקריים:

1. שיפור באינטליגנציה הקיימת –
   הייתם בינוניים,
   ועכשיו אתם מאוד מאוד חכמים.
2. הופעת תחומי חשיבה חדשים (Emergence) –
   למשל, ציניות.
   אי אפשר להסביר ציניות לילד בן שנה,
   אבל בגיל 7, 10, או 12 הוא יבין.

מתמתיקה כנ"ל לא תצליח להסביר לילד בגיל שנה

עכשיו תדמיינו את הפער הזה בינינו לבין ילד בן שנתיים.
כך יהיה הפער בינינו לבין בינה מלאכותית סופר-אינטליגנטית.

"כלומר יהיו כל מיני בועות וממדי אינטליגנציה חדשים שבכלל לא דמיינו ויותר גרוע מזה או יותר קשה מזה הוא (AI) גם לא יצליח להסביר לנו את מה שהוא מבין. בהתחלה הוא עוד יצליח והחכמים ביותר ביננו עוד יבינו אבל אחר כך אף אחד לא יבין.

קחו לדוגמא את הקוונטים, משהו ניסה להבין קוונטים – זה אחד הדברים שלא כולם יכולים להבין"

---

האם נוכל לשלוט בבינה מלאכותית חכמה מאיתנו?

בהיסטוריה האנושית,
מעולם לא הצליחה חברה פחות אינטליגנטית לשלוט על חברה אינטליגנטית יותר לאורך זמן.

דוגמאות מההיסטוריה:

• הומו סאפיינס מול הניאנדרטלים –
  ההומו סאפיינס היו חכמים יותר,
  ולכן שרדו בזמן שהניאנדרטלים נכחדו.
• הכיבוש הספרדי של אמריקה –
  הרנאן קורטז הגיע למרכז אמריקה עם כמה מאות חיילים,
  ובאמצעות טכנולוגיה ואסטרטגיה חכמה יותר,
  הצליח להכניע אימפריות של מיליונים.
• האירופאים באוסטרליה –
  האירופאים הגיעו עם טכנולוגיה מתקדמת,
  ולכן השתלטו בקלות על הילידים האבוריג'ינים.

המסר ברור –
האינטליגנטיים יותר תמיד שולטים על הפחות אינטליגנטיים.

אז למה אנחנו חושבים שהפעם זה יהיה שונה?

---

כיצד DeepSeek שינתה את כללי המשחק?

לפני כשבועיים, DeepSeek חוללה טלטלה עצומה.
עד כה, ההנחה הייתה שאמריקה מובילה בתחום הבינה המלאכותית
בפער של כמה שנים,
ושלכן ניתן לקדם את התחום בזהירות ובשלבים.

אבל DeepSeek הוכיחה שהפער הצטמצם משמעותית—
לא חמש שנים מאחור, אלא חמש דקות מאחור.

מה זה גרם?
כל אמצעי הזהירות שהיו עד כה נזנחו.
עכשיו כולם רצים קדימה במהירות מסחררת.

אף אחד לא רוצה להישאר מאחור,
ואף אחד לא רוצה שסין תהיה הראשונה להגיע ל-AGI.

והבעיה הגדולה ביותר?
אף אחד כבר לא באמת שולט בתהליך.

---

וזה המצב שלנו היום.
אנחנו מתקדמים לכיוון שאין ממנו חזרה,
והשלכות המהפכה הזו עדיין לא מובנות לנו במלואן.

 

 

 

https://www.youtube.com/watch?v=NYczXCKNnFs

 

תמלול בשיתוף OPEN AI4