חברת הבינה המלאכותית הסינית Moonshot החליטה לעשות דבר חריג: להחליש בכוונה את המודל החדש שלה לפני שתאפשר למפתחים להוריד ולהפעיל אותו בעצמם. הסיבה אינה ביצועים גרועים אלא להפך – לפי החברה, גרסה כמעט זהה של Kimi K3.1 Pro הצליחה טוב מדי במשימות של איתור וניצול חולשות מחשב.

5 דברים שצריך לדעת

• Moonshot מתכננת לפרסם את משקולות Kimi K3.1 Pro ב-4 בנובמבר.
• החברה הסירה חומרי סייבר מחלקים מתהליך האימון.
• לפי מבחן פנימי, הגרסה המסוננת קיבלה 81% במשימות סייבר לעומת 90.5% לגרסה פחות מוגבלת.
• הנתונים פורסמו על ידי החברה ולא אומתו באופן עצמאי.
• המהלך מגיע על רקע חשש גובר שמודלים פתוחים יקלו על ביצוע מתקפות סייבר מתקדמות.

לא כל שיפור הוא יתרון

בדרך כלל חברות AI מתחרות על כל נקודת ביצועים נוספת. במקרה של Kimi K3.1 Pro, Moonshot טוענת שהגיעה לנקודה שבה שיפור בתחום אחד הפך לסיכון.

החברה הסירה מידע הקשור לסייבר ממאגרי אימון מסוימים ומסביבות reinforcement learning, תוך ניסיון לשמור על יכולות תכנות כלליות. לפי Reuters, המודל המסונן עדיין הציג ביצועים גבוהים בהרבה מהדור הקודם.

למה מודל פתוח משנה את התמונה

Kimi K3.1 Pro מיועד להיות מודל open-weight: החברה צפויה לפרסם את קובצי המשקולות שלו, כך שמפתחים וחוקרים יוכלו להריץ אותו על מערכות משלהם ואף לשנות אותו.

היתרון של מודלים כאלה הוא עצמאות וגמישות. החיסרון הוא שלאחר שהמשקולות יוצאות לרשת, לחברה שפיתחה את המודל כמעט אין דרך לפקח על השימוש בו או לעצור גרסאות שעברו התאמות.

המספרים שמטרידים את Moonshot

במבחן פנימי של החברה, שנועד לבדוק איתור וניצול חולשות בסביבה מבוקרת, המודל שעבר הפחתת סיכון השיג ציון של 81%. גרסה דומה שלא עברה את ההגבלות הגיעה ל-90.5%. לשם השוואה, הדור הקודם Kimi K3 קיבל לפי אותם נתונים 33.3% בלבד.

הקפיצה הזו ממחישה את המהירות שבה מודלי AI משתפרים במשימות שעד לאחרונה דרשו מומחיות אנושית גבוהה.

מרוץ החימוש החדש של ה-AI

הדיון סביב יכולות סייבר אינו מוגבל ל-Moonshot. ממשלות וחברות ברחבי העולם מנסות לקבוע היכן עובר הגבול בין מודל שיכול לעזור לחוקרי אבטחה למצוא חולשות לבין מודל שיכול להפוך כלי תקיפה לזמין וזול בהרבה.

בסין כבר עלו הצעות להגבלות על כלים מבוססי AI שמיועדים ליצירת נוזקות או לאיתור אוטומטי של חולשות. במקביל, חברות טוענות שאותן יכולות בדיוק יכולות לסייע לארגונים להגן על התוכנה שלהם.

הזווית הישראלית

עבור ישראל, שבה פועלת תעשיית סייבר גדולה ומערכת ביטחונית שמסתמכת על יכולות דיגיטליות מתקדמות, מדובר בדיון בעל משמעות ישירה. מודלים פתוחים וחזקים יותר יכולים להאיץ בדיקות אבטחה ופיתוח תוכנה, אבל גם להוריד את רף הכניסה לתוקפים ולהגדיל את מספר הניסיונות האוטומטיים נגד חברות, תשתיות ומוסדות.

אחרי מה לעקוב

הנקודה המרכזית תהיה 4 בנובמבר, המועד שבו Moonshot מתכננת לפרסם את משקולות המודל. לאחר מכן ניתן יהיה לראות עד כמה ההגבלות שהוטמעו אכן נשארות אפקטיביות כאשר קהילת מפתחים חיצונית מקבלת גישה מלאה למודל.