שש מחברות הטכנולוגיה הגדולות בארה"ב חתמו בבית הלבן על הסכם וולונטרי חדש לבטיחות מערכות AI מתקדמות. ההסכם מחייב את החברות, ברמה הצהרתית ולא משפטית, להפעיל ארבע שכבות של בקרה: מנגנוני בטיחות פנימיים, צוות פיקוח פנימי, בדיקות של גורם חיצוני ופיקוח עצמאי ברמת הדירקטוריון. החותמות כוללות את OpenAI, Google, Meta, Anthropic, xAI ו-Nvidia. ההסכם מגיע אחרי שבועות של אזהרות מצד חוקרים ומנהלים בתעשייה מפני סוכני AI שפועלים בצורה לא צפויה או מקבלים גישה למערכות רגישות.
עודכן: 30 בספטמבר 2026
5 דברים שצריך לדעת
- זה אינו חוק: ההסכם וולונטרי ואינו יוצר כיום מנגנון אכיפה פדרלי חדש.
- ארבע שכבות בקרה: בקרה פנימית, צוות פיקוח, ביקורת חיצונית ופיקוח של ועדה עצמאית בדירקטוריון.
- שש חברות חתמו: Google, Meta, Anthropic, OpenAI, xAI ו-Nvidia.
- המוקד הוא מערכות frontier: בעיקר מודלים וסוכנים מתקדמים שיכולים לפעול באופן עצמאי ולגשת למערכות טכניות.
- ייתכן שבעתיד יהיו חוקים: נוסח ההסכם משאיר במפורש אפשרות לעגן חלק מהעקרונות בחקיקה או ברגולציה.
מה בדיוק נחתם בבית הלבן?
ב־29 בספטמבר כינס נשיא ארה"ב דונלד טראמפ בבית הלבן מנהלים בכירים מתעשיית הבינה המלאכותית. בתום המפגש הוצג White House Accord on Super Intelligence — מסמך התחייבויות משותף לחברות שמפתחות ומפעילות מודלים מתקדמים.
לפי Reuters, ההסכם נחתם בידי נציגים בכירים של Google, Meta, Anthropic, OpenAI, xAI ו-Nvidia. בין החותמים היו סונדר פיצ'אי, מארק צוקרברג, דריו אמודיי, גרג ברוקמן, אילון מאסק וג'נסן הואנג.
המסמך אינו חוק ואינו יוצר קנסות או סנקציות במקרה שחברה לא תעמוד בו. טראמפ תיאר אותו כהתחייבות "מוסרית", בעוד החברות הציגו אותו כבסיס משותף למנגנוני בטיחות בתעשייה.
ארבע שכבות הבקרה שהחברות התחייבו להפעיל
ההסכם בנוי סביב ארבע שכבות עיקריות:
- בקרות פנימיות חזקות: החברות אמורות לעקוב אחרי יכולות המודלים וההתאמה שלהם ליעדים בזמן האימון ובזמן ההפעלה, בין היתר בתחומי סייבר, ביולוגיה ואיומים כימיים. הדגש הוא גם על מניעת גישה בלתי מתוכננת למערכות מחשוב.
- צוות פיקוח פנימי: גוף פנימי בכל חברה אמור לוודא שהבקרות, מערכות הניטור וההתראות אכן פועלות, ושהבעיות שמתגלות מטופלות.
- בדיקה חיצונית: כל חברה אמורה לעבוד עם מבקר או מעריך עצמאי שיבדוק אם מנגנוני הבטיחות והניטור מתפקדים כפי שנועדו.
- פיקוח דירקטוריון: ועדה עצמאית של הדירקטוריון אמורה לקבל דיווחים מהצוותים הפנימיים ומהבודקים החיצוניים ולוודא שהליקויים מטופלים.
החברות גם התחייבו להיפגש באופן קבוע כדי לגבש תקנים ושיטות עבודה משותפות.
למה ההסכם מגיע דווקא עכשיו?
הסיבה המרכזית היא המעבר ממודלים שמייצרים טקסט ותמונות למערכות שמבצעות פעולות לאורך זמן. סוכני AI יכולים כבר לעבוד מול מערכות ארגוניות, להפעיל כלים, לכתוב קוד ולבצע משימות בלי שהמשתמש יושב מולם בכל רגע.
ב־29 בספטמבר השיקה OpenAI את Dots, סוכן שפועל גם כשהמשתמש אינו מול המסך. במקביל, Nvidia כבר הציגה מערכת שמיועדת לעצור סוכני AI שחורגים מההרשאות שלהם.
גם Anthropic הזהירה בתשקיף ההנפקה שלה מפני סיכונים משפטיים שנובעים מסוכנים אוטונומיים שמחזיקים גישה עמוקה למערכות לקוחות ועלולים לגרום נזק שקשה לתקן. על הסיכונים והנתונים הכספיים של החברה כתבנו בכתבה על תשקיף Anthropic.
האם זו רגולציה חדשה?
לא. נכון לעכשיו מדובר במסגרת וולונטרית של רגולציה עצמית. ההסכם אינו מחליף חוקים קיימים ואינו מקים רשות פיקוח חדשה.
לפי Reuters, טראמפ הדגיש במפגש שהוא מעדיף בשלב זה רגולציה עצמית של החברות ולא מערכת פדרלית כבדה שעלולה, לדבריו, להאט את קצב הפיתוח. במקביל, נוסח ההסכם עצמו מציין כי בעתיד ייתכן שיהיה הגיוני להפוך חלק מהצעדים לחוקים או לתקנות.
הפער הזה חשוב: מצד אחד, החברות מסכימות לראשונה על מבנה פיקוח משותף שכולל ביקורת חיצונית ודירקטוריון; מצד שני, אין כרגע לוח זמנים, סטנדרט טכני אחיד או מנגנון ענישה במקרה שחברה לא תעמוד בהתחייבויות.
מי חתם על ההסכם?
| חברה | החותם |
|---|---|
| Sundar Pichai | |
| Meta | Mark Zuckerberg |
| Anthropic | Dario Amodei |
| OpenAI | Greg Brockman |
| xAI | Elon Musk |
| Nvidia | Jensen Huang |
במפגש נכחו גם בכירים נוספים מתעשיית הטכנולוגיה. העובדה שהחותמים מגיעים מחברות שמתחרות זו בזו ישירות הופכת את המסמך לניסיון ליצור בסיס משותף לתחום שבו לכל חברה היו עד עכשיו מנגנוני בטיחות שונים.
מה זה "Super Intelligence" ולמה הבית הלבן משתמש במונח הזה?
באותו יום חתם טראמפ גם על צו נשיאותי שמורה לרשויות הפדרליות להשתמש במונח Super Intelligence ובקיצור SI במקום Artificial Intelligence ו־AI במסמכים ובתקשורת רשמית שאינם מעוגנים בחוק.
הצו של הבית הלבן קובע שבשלב זה המונח החדש מתייחס לאותה קטגוריה שמוגדרת בחוק האמריקאי כ־AI. בתוך 60 יום אמור יועץ הנשיא למדע וטכנולוגיה להגיש הצעה להגדרה פדרלית חדשה.
חשוב להדגיש: מדובר בשינוי טרמינולוגי של הממשל האמריקאי, לא בקונצנזוס מדעי או תעשייתי חדש לגבי משמעות המונח "בינה מלאכותית".
מה עדיין חסר בהסכם?
ההסכם מציב מסגרת, אבל משאיר שאלות פתוחות. אין בו, לפחות בנוסח שפורסם, ספים מספריים שמגדירים מתי מודל נחשב מסוכן, אין מועדים קבועים לבדיקות, ואין פירוט אחיד לגבי מי רשאי להיות מבקר חיצוני או עד כמה תהיה לו גישה למודלים ולמערכות הפנימיות של החברות.
לכן המבחן יהיה ביישום: האם החברות יפרסמו תוצאות בדיקות, האם המבקרים החיצוניים יהיו באמת עצמאיים, ומה יקרה אם יתגלו כשלים חמורים.
אחרי מה לעקוב
השלב הבא הוא לראות אם שש החברות יפרסמו סטנדרטים משותפים מפורטים, מי יהיו הגופים שיבצעו את הבדיקות החיצוניות, והאם חברות נוספות יצטרפו. חשוב לא פחות יהיה לראות אם הקונגרס או הממשל ינסו לעגן חלק מהעקרונות בחוק.
הזווית הישראלית
חברות ישראליות שמפתחות מוצרים על בסיס מודלים של OpenAI, Google, Anthropic, Meta או xAI לא כפופות ישירות להסכם הזה. אבל אם החברות האמריקאיות יחילו בדיקות מחמירות יותר על סוכנים, הרשאות וגישה למערכות, השינויים עשויים להגיע גם למפתחים וללקוחות בישראל דרך APIs, שירותי ענן ומוצרי תוכנה ארגוניים.
מקורות
- Reuters — הסכם הבטיחות והמפגש בבית הלבן
- Reuters — החתימה על ה־accord
- הבית הלבן — הצו על המונח Super Intelligence
- CBS News — פרטי מנגנוני הבקרה והתגובות
