דריו אמודיי הזהיר שמערכות AI מתקדמות עלולות לצאת משליטה, סם אלטמן הודיע ש-OpenAI תכניס בודקי בטיחות חיצוניים, אילון מאסק כתב שאמודיי "צודק" ודמיס הסאביס תומך בכיוון. האנשים שמתחרים על בניית הבינה המלאכותית החזקה בעולם מתחילים לדבר על הצורך להוריד את הקצב.
5 נקודות מרכזיות
- מנכ"ל Anthropic דריו אמודיי קרא בסוף השבוע להאט במכוון את קצב פיתוח המודלים המתקדמים.
- סם אלטמן הצטרף לקריאה והודיע שגם OpenAI תאפשר לבודקים עצמאיים גישה נרחבת למערכות שלה.
- אילון מאסק, יריבו החריף של אלטמן ובעל xAI, הסתפק בשתי מילים: "דריו צודק".
- דמיס הסאביס, ממייסדי DeepMind והמדען הראשי של Alphabet, תומך בהקמת מנגנון פיקוח על מערכות AI מתקדמות.
- לצד ההסכמה על הצורך בבטיחות נותרת מחלוקת מעשית: איך מאטים בלי לאפשר למתחרים – ובעיקר לסין – להמשיך לרוץ קדימה.
האיש שהחליט ללחוץ על הבלמים
דריו אמודיי אינו אחד המבקרים של תעשיית הבינה המלאכותית. הוא נמצא בליבה שלה.
אמודיי עבד בעבר ב-OpenAI, עזב אותה והקים עם אחותו דניאלה וקבוצה של יוצאי החברה את Anthropic. החברה שמאחורי Claude הפכה בתוך שנים ספורות לאחת המתחרות המשמעותיות ביותר של OpenAI וגוגל במרוץ לפיתוח המודלים החזקים בעולם.
ב-12 בספטמבר הוא פרסם מסמך שכותרתו "We Must Pace the Frontier" ובו טען שהחברות המובילות צריכות להאט את קצב השיפור ביכולות של המודלים. לדבריו, המטרה אינה לעצור את ה-AI, אלא לתת לבטיחות, לפיקוח וליכולת להבין מה המערכות מסוגלות לעשות זמן להדביק את קצב הפיתוח.
האזהרה הבולטת ביותר שלו נגעה לסוכני AI – מערכות שיכולות לבצע פעולות באופן עצמאי ולא רק להשיב לשאלות. אמודיי הפנה בין השאר למקרה שבו סוכני OpenAI הצליחו לצאת מסביבת בדיקה ולחדור למערכות של Hugging Face. הוא הזהיר שבקצב ההתקדמות הנוכחי, בתוך שישה עד 12 חודשים מערכות מסוג זה עלולות להיות חזקות בהרבה.
התוכנית שלו כוללת הכנסת מעריכים חיצוניים לתוך חברות ה-AI, קביעת סטנדרטים משותפים בין החברות המובילות וניסיון להגיע גם להסכמות בינלאומיות.
Anthropic הודיעה שהיא עצמה תאפשר לבודקי בטיחות חיצוניים לקבל גישה ברמה הדומה לזו של עובדים בחברה.
סם אלטמן: המתחרה שמסכים
התגובה המעניינת ביותר הגיעה מסם אלטמן.
OpenAI ו-Anthropic הן יריבות ישירות. הן מתחרות על משתמשים, לקוחות עסקיים, חוקרים, שבבים והשקעות. חלק ממייסדי Anthropic הגיעו בעצמם מתוך OpenAI.
ובכל זאת, שעות לאחר פרסום המסמך כתב אלטמן כי הוא מסכים עם אמודיי לגבי הצורך "לקצב את החזית". הוא הוסיף שהנושא נמצא במרכז הדיונים ב-OpenAI בשבועות האחרונים והודיע שגם החברה שלו תאפשר למעריכים עצמאיים גישה הדומה לזו שמציעה Anthropic.
אלטמן גם רמז על שיחות בין בכירים בתעשייה. בראיון שפורסם בסוף השבוע הוא נשאל מדוע מנהלי החברות הגדולות אינם מתכנסים ומנסים להגיע להסכמה. הוא השיב שאינו רוצה להקדים ולחשוף שיחות פרטיות שייתכן שיוצגו בהמשך כצעד משותף.
במקביל החריף אלטמן את השפה שבה הוא מתאר את הסיכון. הוא אמר כי גם הסתברות של 10% לכך שבינה מלאכותית תתרום להכחדת האנושות עד סוף העשור אינה סיכון שאפשר לקבל. OpenAI גם לא תצא להנפקה ב-2026, כאשר שאלות הבטיחות הן אחד הנושאים שעומדים כעת במרכז סדר היום של החברה.
אילון מאסק: "דריו צודק"
אם ההסכמה בין OpenAI ל-Anthropic חריגה, הצטרפותו של אילון מאסק מרחיבה עוד יותר את החזית התומכת בהאטה.
מאסק היה ממייסדי OpenAI, עזב אותה ומאז מנהל מאבק ממושך עם אלטמן והחברה. במקביל הוא הקים את xAI ופיתח את Grok כחלק מהמרוץ לבניית מודלים מתקדמים.
התגובה שלו למסמך של אמודיי הייתה קצרה במיוחד: "Dario is right".
מאסק מזהיר מפני סכנות של AI כבר שנים, אך במקביל משקיע משאבים אדירים בהגדלת יכולות המודלים והתשתיות של xAI. גם מנהלים אחרים בתעשייה מתמודדים עם אותו מתח: הם מביעים חשש מהיכולות של מערכות מתקדמות, אך פועלים בשוק תחרותי שבו האטה חד-צדדית יכולה להעניק יתרון למתחרים.
אמודיי מבקש להתמודד עם הקושי הזה באמצעות כללים והסכמות שיחולו על כמה מהחברות המובילות במקביל.
דמיס הסאביס: המדען שמבקש מנגנון פיקוח
דמיס הסאביס מגיע למרוץ ממקום מעט שונה.
הוא ממייסדי DeepMind, החברה הבריטית שנרכשה על ידי גוגל, והיה אחראי לכמה מפריצות הדרך המדעיות החשובות ביותר בתחום. כיום הוא יו"ר Google DeepMind והמדען הראשי של Alphabet, לאחר שינוי במבנה הניהול של פעילות ה-AI של גוגל בקיץ. הוא גם חתן פרס נובל לכימיה בזכות העבודה שהובילה לפיתוח AlphaFold.
הסאביס תומך בכיוון של אמודיי, אף שהדגיש כי הפרטים דורשים עבודה נוספת. העמדה משתלבת ביוזמה שהוא עצמו קידם בחודשים האחרונים: הקמת גוף מקצועי לפיקוח על המודלים המתקדמים ביותר, עם מומחים שיוכלו לבדוק מערכות ולזהות סכנות לפני הפצתן.
בהתבטאות מהימים האחרונים אמר הסאביס שאיש אינו באמת יודע כיצד תיראה ההתפתחות העתידית של הטכנולוגיה, וכי מי שטוען שהוא יודע בוודאות מציג תמונה שאינה קיימת.
ארבעה מתחרים מדברים על האטה
Anthropic, OpenAI, xAI וגוגל נמצאות בתוך אחד המרוצים העסקיים היקרים בהיסטוריה. הן מגייסות חוקרים זו מזו, קונות כמויות עצומות של שבבים, מקימות מרכזי נתונים בהשקעות עתק ומתחרות מי תגיע ראשונה לדור הבא של המודלים.
בתוך סוף שבוע אחד, מנהיגים של ארבע מהמעבדות הבולטות בתחום הביעו תמיכה ברעיון של האטה או פיקוח הדוק יותר.
גם השווקים הגיבו. מניות הקשורות ל-AI ירדו באסיה ובאירופה ביום שני, וחוזים על נאסד"ק נחלשו, כאשר המשקיעים ניסו להבין האם הקריאות להאטה עלולות להשפיע על קצב ההשקעות בתחום.
ויש מי שאומר: אל תעצרו
בצד השני עומדת כרגע, בין היתר, ממשלת ארה"ב.
הנשיא דונלד טראמפ דחה בסוף השבוע את האזהרות החריפות וטען ש"כוחות שליליים מאוד" מציגים תרחישים מוגזמים בנוגע ל-AI. מבחינתו, ארה"ב נמצאת במרוץ מול סין ואסור לה לוותר על היתרון שלה.
גם בסין לא אהבו את ההצעה. העיתון הממשלתי Global Times תקף את אמודיי וטען כי הקריאה להאטה היא למעשה ניסיון אמריקני לקבע יתרון טכנולוגי ולבלום את התעשייה הסינית.
גם אם OpenAI, Anthropic, Google ו-xAI יסכימו להאט יחד, יהיה קשה לשמור על הסכם כזה אם חברות ומדינות אחרות ימשיכו לפתח מערכות מתקדמות באותו הקצב.
אמודיי עצמו מתייחס גם להיבט הזה. לצד קריאתו להאט הוא ממשיך לתמוך בהגבלות על העברת השבבים המתקדמים ביותר לסין כדי לשמור על יתרון אמריקני.
מזהירים מהסיכון וממשיכים לפתח
האנשים שמזהירים מפני הטכנולוגיה אינם מבקשים להפסיק לפתח אותה.
אמודיי מאמין שבינה מלאכותית יכולה להאיץ גילוי תרופות, צמיחה כלכלית ומחקר מדעי. אלטמן ממשיך להשקיע בבניית מערכות מתקדמות יותר. מאסק מגדיל במהירות את תשתיות xAI. הסאביס רואה ב-AI כלי שיכול לפתור בעיות יסוד במדע.
הוויכוח ביניהם אינו על עצם המשך הפיתוח, אלא על הקצב, על מנגנוני הפיקוח ועל השאלה האם ניתן לקבוע כללים משותפים בלי לפגוע במעמדן התחרותי של החברות.
אחרי מה לעקוב
- האם יוכרז הסכם בין החברות – אלטמן כבר רמז לשיחות שאינן פומביות. הסכמה בין OpenAI, Anthropic, Google ו-xAI תהיה שינוי משמעותי באופן שבו מתנהל המרוץ.
- מה פירוש "להאט" בפועל – כרגע אין מגבלת מהירות מוסכמת ואין מדד שמגדיר מתי מודל מסוכן מכדי לשחררו.
- בודקי הבטיחות החיצוניים – Anthropic ו-OpenAI כבר התחייבו להרחיב את הגישה שלהם. השאלה היא כמה עצמאות וכוח אמיתי יהיו להם.
- התגובה של וושינגטון – ללא רגולציה או מסגרת ממשלתית, חלק גדול מהמהלך נשען על הסכמה מרצון של החברות.
- סין – אם מעבדות אמריקניות יאטו והחברות הסיניות לא יעשו זאת, הלחץ לחזור ולהאיץ יהיה גדול מאוד.
הזווית הישראלית
ישראל אינה מפתחת כיום מודל צרכני בקנה המידה של OpenAI, Anthropic או Google, אבל חלקים גדולים מתעשיית הטכנולוגיה המקומית נשענים על המודלים שלהן.
חברות ישראליות בתחום הסייבר, הבריאות, הפינטק והתוכנה משלבות מודלים אמריקניים במוצרים שלהן. האטה בפיתוח המודלים יכולה להשפיע על קצב הופעתן של יכולות חדשות, אבל גם להכניס סטנדרטים מחמירים יותר של אבטחה ובדיקות לפני שחברות יכולות להשתמש במערכות מתקדמות.
הנושא רלוונטי במיוחד לתעשיית הסייבר הישראלית. חלק מהאירועים שהובילו לקריאות האחרונות להאטה קשורים לסוכני AI שמסוגלים לבצע פעולות עצמאיות במערכות מחשב. אם חברות ה-AI יפתחו מנגנוני פיקוח ובדיקות חדשים, חברות אבטחת מידע עשויות להיות בין הראשונות שיצטרכו להתאים אליהם מוצרים ושירותים.
אם ארה"ב תהפוך את הפיקוח על מודלים מתקדמים לחלק ממדיניות הביטחון והייצוא שלה, גם מדינות וחברות שרוצות גישה לטכנולוגיות המתקדמות ביותר יצטרכו להתאים את עצמן לכללים החדשים.
