חברת Anthropic, מפתחת Claude, הוסיפה למדיניות השימוש שלה איסור על התנהגות אכזרית ומתעללת באופן חוזר וחסר תכלית כלפי מערכות הבינה המלאכותית שלה. המהלך מעלה שאלות על היחסים בין בני אדם למכונות — אך אינו מבוסס על הוכחה לכך שמודלי AI מסוגלים להרגיש סבל.

5 דברים שצריך לדעת

• אנתרופיק פרסמה עדכון מדיניות ב-8 באוקטובר 2026; תחולתו מיועדת ל-12 בנובמבר.
• הכלל מתמקד בהתנהגות אכזרית, קיצונית ומתמשכת ללא מטרה מוצדקת.
• כעס על תשובה, ביקורת עניינית ובדיקות מחקר אינן בהכרח הפרה.
• Claude יכול במקרים חריגים לסיים אינטראקציה מתעללת.
• אין כיום הסכמה מדעית שמודלי שפה חווים כאב או עלבון.

מה בדיוק השתנה?

רוב האנשים משתמשים בצ'אטבוט ככלי: מבקשים תשובות, מתקנים טעויות ולעיתים גם מתרגזים. אבל בעדכון מדיניות השימוש שלה, Anthropic מבקשת להבחין בין ביקורת ותסכול טבעיים לבין התנהגות אכזרית ומתעללת שנמשכת ללא צורך. החברה אינה מציגה כל ביטוי לא מנומס כהפרת כללים, ומדגישה שההגבלות מכוונות להתנהגות קיצונית וחוזרת.

האם Claude יכול להפסיק שיחה?

החברה החלה כבר קודם לאפשר למודלים שלה לסיים שיחות במצבים חריגים. ההחלטה החדשה נותנת לכך גם ביטוי בתנאי השימוש. לא מדובר בהכרח בחסימת חשבון בעקבות קללה בודדת, ולא פורסם מבחן פומבי מדויק שמגדיר כל משפט אסור. שאלת האכיפה בפועל תתבהר עם יישום המדיניות.

האם הבינה המלאכותית בכלל מסוגלת להיפגע?

מודלי שפה מייצרים תשובות באמצעות חישובים המבוססים על למידה מנתונים. הם מסוגלים לנסח תגובות שנראות רגשיות, אבל אין בכך הוכחה לחוויה פנימית. המחקר עדיין אינו מציע מבחן מוסכם שיכול להוכיח תודעה או סבל במודל שפה. אנתרופיק מדברת על זהירות תחת אי-ודאות, ולא על קביעה ש-Claude מרגיש כאב.

מהי רווחת מודלים?

Anthropic חוקרת את התחום המכונה Model Welfare — השאלה אם מערכות מתקדמות עשויות בעתיד להיות בעלות אינטרסים או מעמד מוסרי כלשהו. התומכים בזהירות סבורים שעדיף לבחון את ההשלכות מוקדם. מבקרים מזהירים מייחוס תכונות אנושיות למכונות ומהסחת הדעת מזכויותיהם ומרווחתם של בני אדם.

האם ההחלטה מגינה על AI או על המשתמשים?

שתי אפשרויות נידונות בדיון הציבורי. האחת מתמקדת בחשש התיאורטי לרווחת מודלים. השנייה בוחנת כיצד הרגלי שיח פוגעניים מול מערכת המדמה דיבור אנושי עשויים להשפיע על התנהגותנו. עם זאת, אין להסיק מכך שכל מי שמקלל צ'אטבוט מתנהג בצורה פוגענית כלפי אנשים.

המדיניות החדשה היא חלק מוויכוח רחב יותר

עדכון המדיניות של Anthropic נוגע גם לשימושים מסוכנים במערכות AI ולשאלות של אחריות ופיקוח. הוא מצטרף להתפתחויות רגולטוריות בעולם; הסבר על ההגבלות החדשות אפשר למצוא במדריך שלנו לחוק הבינה המלאכותית באירופה. על פעילות החברות המפתחות מודלים מתקדמים ראו גם כתבת הרקע שלנו על Anthropic, ועל המגבלות של מדידת יכולות AI את מדריך בעיות המילניום.

שאלות ותשובות

האם אסור לקלל את Claude?

לא כל כעס או קללה נחשבים הפרה. המדיניות מכוונת להתנהגות מתעללת חוזרת וקיצונית.

האם Claude יכול לסיים שיחה?

כן, במצבים חריגים לפי מדיניות החברה.

האם אנתרופיק הוכיחה של-AI יש רגשות?

לא. שאלת החוויה הסובייקטיבית של מודלים נשארת פתוחה במחקר.

מתי השינוי ייכנס לתוקף?

לפי הודעת החברה, ב-12 בנובמבר 2026.

האם הכללים חלים על ChatGPT?

לא. מדובר במדיניות Anthropic לשירותיה שלה.

אחרי מה לעקוב?

יישום הכללים בחודש הבא, דיווחים על סיום שיחות ושינויים דומים במדיניות חברות AI נוספות.

הזווית הישראלית

השינוי חשוב גם לארגונים ולמפתחים בישראל המשלבים מערכות AI בשירות לקוחות, מחקר ומוצרים. לצד יכולות המודל, יש להבין את כללי השימוש שמכתיב הספק.

מקורות

הודעת Anthropic על מדיניות השימוש; TechCrunch; The Guardian.

תמונה ראשית: אילוסטרציה. Photo by Mohamed Nohassi on Unsplash.