האיחוד האירופי כבר החל לאכוף חלק מחוק הבינה המלאכותית (AI Act), והרגולטורים נערכים לפקח גם על מערכות חזקות ועצמאיות יותר. מה באמת אסור, מה מחייב שקיפות ואיך הכללים משפיעים על ChatGPT, ג'מיני וחברות שמפתחות מוצרי AI?

10 באוקטובר 2026

5 דברים שצריך לדעת

• החוק אינו אוסר על שימוש ב־ChatGPT או בג'מיני. הוא מגדיר חובות לפי סוג המערכת והסיכון.
• האיסורים על חלק מהשימושים המסוכנים חלים מאז פברואר 2025.
• חובות לספקי מודלים כלליים החלו לחול באוגוסט 2025, בכפוף להוראות מעבר.
• כללים נוספים בנוגע לשקיפות ופיקוח החלו לחול באוגוסט 2026.
• חובות מרכזיות למערכות AI בסיכון גבוה נדחו לדצמבר 2027 ולאוגוסט 2028, בהתאם לסוג המערכת.

למה החוק שוב בכותרות?

ב־9 באוקטובר הגנה נציבת הטכנולוגיה של האיחוד האירופי, הנּה וירקונן, על ה־AI Act לנוכח החששות ממערכות מתקדמות שמבצעות פעולות בעצמן. השאלה המעשית היא כיצד לאפשר חדשנות בלי לוותר על פיקוח כאשר מערכות יכולות לנתח מידע, לקבל החלטות ואף לפעול בשם המשתמש. הדיווח ברויטרס.

מהו חוק הבינה המלאכותית האירופי?

ה־AI Act הוא מסגרת משפטית כלל־אירופית שמבחינה בין ארבע רמות עיקריות: שימושים אסורים בשל סיכון בלתי קביל, מערכות בסיכון גבוה המחויבות בבקרות, חובות שקיפות לסוגי שימוש מסוימים ומערכות בסיכון נמוך עם דרישות מצומצמות יחסית. ההגבלות תלויות בשימוש ולא רק בשם הטכנולוגיה.

בין השימושים האסורים קיימים מקרים מוגדרים של ניצול חולשות, מניפולציה מזיקה ודירוג חברתי פסול. אין איסור גורף על AI בבתי ספר, בבנקים או במקומות עבודה; בתחומים כאלה עשויות לחול חובות מוגברות, לפי אופן קבלת ההחלטות.

מה משתנה למשתמשי ChatGPT וג'מיני?

החוק אינו אוסר על שירותי שיחה מבוססי AI. הוא מחייב ספקים של מודלים למטרות כלליות, בנסיבות המתאימות, לנהל תיעוד טכני, לספק מידע למפתחים המשתמשים במודל, לפעול לפי מדיניות זכויות יוצרים ולפרסם סיכומי מידע על נתוני האימון. למודלים שמוגדרים כבעלי סיכון מערכתי נדרשים צעדים נוספים של הערכת סיכונים, בדיקות ודיווח על אירועים חמורים.

מבחינת המשתמש, החוק דורש במצבים מסוימים גילוי שהוא מתקשר עם AI, ומסדיר סימון וגילוי בנוגע לתוכן סינתטי. לא כל טקסט שנערך בעזרת AI חייב לשאת תווית. חובות הגילוי משתנות בהתאם לסוג התוכן, לגורם המפרסם ולשימוש. לעיון בהשלכות האוטומציה ראו את הכתבה שלנו על סוכני AI והונאות.

מה לגבי זיופים עמוקים?

החוק כולל חובות גילוי לגבי סוגים מסוימים של דיפ־פייק ותוכן סינתטי. מקרים של תוכן אינטימי שנוצר ללא הסכמה וחומרי פגיעה מינית בילדים מעוררים הגבלות חמורות במיוחד. יש להבדיל בין עצם השימוש בכלי יצירה, שלא נאסר באופן גורף, לבין שימוש אסור או מטעה בו.

בנק, בית ספר ומעסיק: למה הסיכון גבוה יותר?

מערכות שמשפיעות על קבלה לעבודה, על החלטות מסוימות בחינוך, על גישה לשירותים חיוניים או על שימושים ביומטריים עשויות להיחשב מערכות בסיכון גבוה. הדרישות כוללות, לפי המקרה, ניהול סיכונים, איכות נתונים, תיעוד, בקרה אנושית ומעקב לאחר השיווק. עם זאת, בעקבות תיקון החקיקה ב־2026, תחולת החובות העיקריות למערכות העצמאיות שבנספח III נדחתה ל־2 בדצמבר 2027, ולמערכות המשולבות במוצרים מוסדרים שבנספח I ל־2 באוגוסט 2028.

מתי החוק נכנס לתוקף?

התאריכים מתבססים על לוח היישום הרשמי של הנציבות. קיימות הוראות מעבר נוספות, ולכן יש לבדוק כל מוצר בנפרד.

אילו קנסות אפשר להטיל?

על הפרת איסורים חמורים מסוימים החוק מאפשר קנס מרבי של 35 מיליון אירו או 7% מהמחזור העולמי השנתי, לפי הגבוה מביניהם. להפרות אחרות תקרות שונות. לא כל שגיאה של צ'אטבוט היא הפרה שקנס כזה חל עליה.

הזווית הישראלית

החוק עשוי לחול גם על חברות שמשרדיהן מחוץ לאיחוד האירופי, ובכלל זה בישראל, כאשר הן משווקות או מעמידות מערכות AI לשימוש באירופה או עומדות בתנאי תחולה אחרים. עסקים בתחומי גיוס עובדים, פיננסים, חינוך ובריאות צריכים לבחון את הגדרת המוצר ואת אופי השימוש בו. שימוש רגיל של עובד בכלי צ'אט אינו שקול בהכרח לפיתוח והעמדה לשוק של מערכת בסיכון גבוה.

שאלות ותשובות

האם אירופה אוסרת על ChatGPT או Gemini?

לא. החוק מסדיר שירותים ומודלים לפי סוגם ולפי השימוש בהם, ולא מטיל איסור גורף על צ'אטבוטים.

האם כל תמונה שנוצרה ב־AI חייבת להיות מסומנת?

לא כל שימוש כפוף לאותה חובת גילוי. יש חובות שקיפות וסימון בסוגי תוכן סינתטי ובנסיבות המוגדרות בחוק.

האם החוק חל על חברה ישראלית?

הוא עשוי לחול כאשר מוצר או מודל מוצעים בשוק האירופי או כאשר מתקיימים תנאי תחולה אחרים הקבועים בו.

מתי מתחילות הדרישות למערכות בסיכון גבוה?

לפי העדכון מ־2026, חובות מרכזיות יתחילו לחול בדצמבר 2027 או באוגוסט 2028, בהתאם לסוג המערכת.

אחרי מה לעקוב

השלב הבא יהיה פרסום הנחיות וצעדי אכיפה של הרשויות האירופיות, לצד היערכות החברות לתאריכי התחולה הנוספים. המבחן יהיה אם האיחוד יצליח לאכוף שקיפות ובטיחות בלי להכביד יתר על המידה על חדשנות ועסקים קטנים.

מקורות: הנציבות האירופית · שאלות ותשובות רשמיות · נוסח חוק ה־AI · רויטרס, 9 באוקטובר.