מנכ"ל Nvidia מציב עמדה ברורה בוויכוח שמסעיר את תעשיית הבינה המלאכותית: החברות צריכות להבטיח שהמערכות שלהן בטוחות, אבל לא באמצעות שכבה חדשה של חקיקה. הדברים נאמרו ב-Dreamforce, באותו כנס שבו מנהלי OpenAI ואנתרופיק הציגו גישות זהירות יותר.
5 נקודות מרכזיות
- ג'נסן הואנג, מנכ"ל Nvidia, אמר ב-Dreamforce כי לדעתו "לא צריך חוקים חדשים" כדי להסדיר את פיתוח הבינה המלאכותית.
- לטענתו, לחברות כבר יש תמריצים מסחריים ומשפטיים לא לשחרר מוצר לפני שהן בטוחות שהוא שימושי ובטוח.
- מנכ"ל אנתרופיק, דריו אמודיי, מציע מסלול הדרגתי שיתחיל בשיפור מנגנוני הבטיחות בתוך החברות ויתקדם לסטנדרטים משותפים ולפיקוח בינלאומי.
- סם אלטמן, מנכ"ל OpenAI, דיבר באותו כנס על צורך בפיקוח עצמאי ועל נכונות להאט או לעצור כאשר אי אפשר להתקדם בבטחה.
- OpenAI עצמה קראה החודש לקביעת דרישות בטיחות לאומיות מחייבות למערכות AI מתקדמות.
"לא צריך חוקים חדשים"
הוויכוח על בטיחות הבינה המלאכותית קיבל השבוע במה יוצאת דופן בכנס Dreamforce של Salesforce בסן פרנסיסקו. בתוך שעות אחדות עלו לבמה שלושה מהמנהלים הבולטים ביותר בתעשייה – דריו אמודיי מאנתרופיק, ג'נסן הואנג מ-Nvidia וסם אלטמן מ-OpenAI – והציגו שלוש גישות שונות לשאלה מי צריך להחליט עד כמה מהר מותר למערכות AI מתקדמות להתפתח.
העמדה של הואנג הייתה הישירה ביותר. לפי דיווח של רויטרס, מנכ"ל Nvidia אמר: "We don’t need any new laws" – "לא צריך חוקים חדשים". לדבריו, לחברות כבר יש אינטרס ברור להאט כאשר הן אינן בטוחות שמוצר חדש בטוח ושימושי.
הואנג דחה גם את ההנחה שהבחירה היא בין חדשנות מהירה לבין בטיחות. מבחינתו, אפשר להתקדם בקצב גבוה ובמקביל לבנות מנגנוני הגנה בתוך המוצרים עצמם. הוא סבור שגם האחריות המשפטית וגם הסיכון העסקי מספקים לחברות תמריץ משמעותי שלא לשחרר מערכות שעלולות לגרום נזק.
אנתרופיק ו-OpenAI מציגות קו זהיר יותר
הגישה של הואנג עומדת מול קו אחר שמקבל בשבועות האחרונים יותר מקום בתעשייה. אמודיי הציג ב-Dreamforce תוכנית בת שלושה שלבים: שיפור הבטיחות בתוך אנתרופיק, גיבוש סטנדרטים משותפים בין החברות המובילות ובהמשך יצירת מנגנון בינלאומי רחב יותר. הוא הדגיש שהשלב הראשון צריך להיות בחינה עצמית ושקיפות מצד החברות עצמן, לפני שהדיון עובר לפיקוח חיצוני.
אלטמן הציג עמדה שנמצאת בין שתי הגישות. לדבריו, הציבור צודק בכך שהוא חושש מסיכוני AI, אך ניתן לפתח את הטכנולוגיה בצורה בטוחה. הוא השווה את התחום לתעופה: לא מפני שאין תאונות, אלא מפני שכל תקלה נחקרת ומשמשת לשינוי נהלים וסטנדרטים. רויטרס דיווחה כי אלטמן אמר שחברות צריכות להיות מוכנות "להאט או לעצור" אם מגיעים לנקודה שבה אי אפשר להתקדם בבטחה.
OpenAI גם נקטה עמדה רשמית ברורה יותר בנושא. ב-9 בספטמבר פרסמה החברה מסמך שבו היא קוראת לדרישות בטיחות לאומיות מחייבות המבוססות על היכולות של המודלים המתקדמים ביותר, לצד הערכות בטיחות עצמאיות ומנגנוני דיווח.
למה הוויכוח מתחדד עכשיו
הדיון אינו מתקיים רק ברמה התאורטית. מערכות AI חדשות מסוגלות כיום לבצע רצפים ארוכים של פעולות, להשתמש בכלים חיצוניים, לכתוב ולהריץ קוד ולפעול במשך זמן ממושך בלי אישור אנושי בכל שלב. ככל שהמערכות הופכות אוטונומיות יותר, גדל גם הקושי לדעת מראש כיצד הן יתנהגו בכל מצב.
ב-16 בספטמבר הודיעה OpenAI על מסגרת חדשה לדיווח על התנהגות בלתי צפויה של מודלים. החברה פרסמה שישה מקרים מהחודשים האחרונים והודיעה כי מעתה היא מתכוונת לדווח באופן שיטתי ומהיר יותר על מקרים שבהם מערכות חורגות מההתנהגות שהמפתחים ציפו לה.
רויטרס דיווחה גם כי בארצות הברית עדיין אין חוק פדרלי מקיף שמחייב חברות AI לדווח על כל אירוע מסוכן או על כל מקרה של התנהגות בלתי צפויה. קיימים חוקים בתחומים משיקים וחלק מהמדינות כבר החלו לקבוע דרישות משלהן, אבל המערכת הפדרלית עדיין אינה אחידה.
Nvidia נמצאת במרכז הכלכלה של ה-AI
לעמדה של הואנג יש חשיבות מיוחדת משום ש-Nvidia נמצאת בלב תשתית המחשוב שעליה נשען גל הבינה המלאכותית. המעבדים והמערכות שלה משמשים לאימון ולהפעלת מודלים מתקדמים, והביקוש לתשתיות AI הפך את החברה לאחת המרכזיות בשוק הטכנולוגיה העולמי.
הקשר הזה הופך את הוויכוח על קצב הפיתוח, על מרכזי נתונים ועל הגבלות אפשריות לרלוונטי ישירות גם לעסקי Nvidia. מי שרוצה להבין טוב יותר את החברה, מקורות ההכנסה שלה והגורמים שמשפיעים על המניה יכול לקרוא גם את המדריך שלנו: מניית Nvidia – מה החברה עושה, איך היא מרוויחה ומה משפיע על NVDA.
גם וושינגטון בתוך הוויכוח
השאלה מי אמור לפקח על מודלים מתקדמים כבר הפכה לנושא פוליטי בארצות הברית. לפי רויטרס, המסגרת שמוביל ממשל טראמפ מתנגדת להקמת רשות פדרלית חדשה שתעסוק רק ברגולציית AI, ומדגישה את הרצון להימנע ממכשולים שיאטו את הפיתוח האמריקני מול סין. מנגד, חברות כמו OpenAI תומכות כיום בחקיקה פדרלית מחייבת בתחומי בטיחות מסוימים.
הפער הזה ממחיש שהמחלוקת אינה רק סביב השאלה אם AI עלול להיות מסוכן. גם בין מי שמסכימים שיש צורך במנגנוני הגנה אין הסכמה מי צריך להחזיק בבלמים: החברות עצמן, מעריכים חיצוניים או הממשלה.
אחרי מה לעקוב
בחודשים הקרובים כדאי לעקוב בעיקר אחרי שני דברים: האם הקונגרס האמריקני יקדם דרישות מחייבות לבדיקות בטיחות ודיווח, והאם החברות הגדולות יצליחו לגבש סטנדרטים משותפים בלי לחכות לחקיקה. אירוע נוסף שבו מערכת מתקדמת תפעל באופן בלתי צפוי עשוי להאיץ את הדיון.
הזווית הישראלית
Nvidia מחזיקה פעילות מחקר ופיתוח רחבה בישראל, במיוחד בתחומי תקשורת מהירה, שבבים ותשתיות למרכזי נתונים. לכן שינויים בקצב ההשקעות העולמי ב-AI, בדרישות הבטיחות או ברגולציה על מערכות מתקדמות עשויים להשפיע גם על הפעילות המקומית ועל חברות ישראליות שפועלות סביב תעשיית התשתיות לבינה מלאכותית.
