ארצות הברית מקדמת דיאלוג עם סין על הסיכונים של מערכות בינה מלאכותית מתקדמות, כך הודיע שר האוצר האמריקאי סקוט בסנט בנאום ב־10 בנובמבר. לדבריו, היוזמה נעשית בהנחיית הנשיא דונלד טראמפ ותעסוק בין היתר בבדיקת מודלים, בשליטה אנושית ובתקשורת ישירה במקרה של תקריות חמורות.
ההצהרה מגיעה לקראת פגישה מתוכננת של טראמפ עם נשיא סין שי ג׳ינפינג בשבוע הבא, במסגרת אירועי פסגת APEC בשנג׳ן. לפי דיווח רויטרס, בסנט הדגיש כי שתי המדינות צריכות להכיר גם באפשרויות לשיתוף פעולה וגם בתחרות ביניהן.
על מה ארה״ב וסין אמורות לדבר?
בנוסח הנאום שפרסם משרד האוצר האמריקאי, בסנט הציג כמה נושאים: החלפת שיטות להערכת מודלים ולבדיקתם לפני שחרור, שמירה על שיקול דעת ושליטה אנושיים, והקמת ערוץ ישיר למקרים חמורים.
הוא קשר את השיחות לסיכונים משותפים ולאפשרות של אי־הבנות סביב מערכות מתקדמות. המונח "סופר־אינטליגנציה" מופיע בנאום כחלק מהדיון בדורות הבאים של הטכנולוגיה; עצם השימוש בו אינו ראיה שמערכת כזאת כבר קיימת או שמוסכם כיצד להגדיר אותה.
מבחינה מעשית, יש הבדל בין כל אחד מהנושאים. בדיקות לפני שחרור עוסקות במה מנסים לזהות מראש. שליטה אנושית נוגעת לאופן שבו מפעילים מערכת. ערוץ לתקריות נועד לאפשר קשר כשהתרחשה בעיה. כדי שהרעיונות יהפכו למסגרת עבודה, יהיה צורך לפרט מי אחראי לכל תחום ומה מצופה ממנו.
האם כבר נחתם הסכם על בינה מלאכותית?
הנאום מציג יוזמה אמריקאית לקידום דיאלוג. הוא אינו מציג אמנה חתומה, מנגנון אכיפה משותף או רשימת בדיקות מחייבת לכל חברות הטכנולוגיה.
לכן מוקדם להסיק שנוצרו כללים בינלאומיים חדשים. גם הקמת ערוץ שיחה אינה מבטיחה ששתי המדינות יסכימו כיצד לזהות סיכון, איזה מידע לשתף או באילו נסיבות לפנות זו לזו. אלה בדיוק הפרטים שיקבעו את ערכו המעשי של המהלך.
למה הנושא מגיע לפסגת APEC?
בינה מלאכותית היא חלק מסדר היום הרחב יותר של APEC, הפורום לשיתוף פעולה כלכלי באסיה ובאוקיינוס השקט. בהודעה שפרסם הפורום לקראת שבוע המנהיגים הוצגו דיונים על ממשל AI, אמון, פרטיות ותקנים, לצד שימושים בטכנולוגיה במסחר ובשירותים.
המסגרת הזאת מחברת בין שאלות בטיחות לבין אינטרסים כלכליים. מודלים ותשתיות פועלים מעבר לגבולות, בעוד שמדינות מבקשות לקבוע את הכללים החלים בשטחן. שיח בין שתי מעצמות טכנולוגיות עשוי לצמצם פערים בחלק מהתחומים, גם כשהתחרות המסחרית והמדינית נמשכת.
המרוץ עצמו מתנהל גם סביב החומרה הדרושה להפעלת המודלים. קראו גם על שבבי הבינה המלאכותית החדשים של גוגל והתחרות מול אנבידיה.
תמונת השער היא תצלום להמחשה. Photo by Taylor Vick on Unsplash.
