קרדיט לתמונה הראשית: Photo by Mehan Talukder on Unsplash
אמזון לא מנסה רק לבנות שבב AI טוב יותר משל Nvidia. היא מנסה לגרום למפתחים להרגיש שהם לא צריכים לשנות כמעט כלום כדי לעבור אליו. AWS השיקה את TorchNeuron, תוכנה פתוחה שמאפשרת להריץ קוד PyTorch על שבבי Trainium עם שינוי תצורה בלבד וללא כתיבה מחדש של הקוד.
זה מהלך שמכוון ישירות לאחד היתרונות הגדולים של Nvidia: CUDA, סביבת התוכנה שעליה נבנה במשך יותר מעשור אקוסיסטם עצום של מפתחי AI. לפי Reuters, יותר מ־30 לקוחות מוקדמים כבר משתמשים ב־TorchNeuron.
חמש נקודות מרכזיות
- TorchNeuron מאפשר להריץ PyTorch על Trainium כמעט בלי שינוי קוד.
- הכלי פתוח וחינמי.
- יותר מ־30 לקוחות מוקדמים כבר משתמשים בו.
- Amazon טוענת שהמעבר ל־Trainium יכול לחסוך משמעותית בעלויות.
- המטרה היא לצמצם את התלות של מפתחים ב־CUDA.
למה CUDA כל כך חשוב ל־Nvidia?
הכוח של Nvidia אינו רק בחומרה. מפתחים, ספריות וכלי פיתוח נבנו לאורך שנים סביב CUDA, ולכן גם אם שבב מתחרה זול יותר, עלות המעבר עלולה להיות גבוהה. TorchNeuron מנסה להסיר בדיוק את החסם הזה.
מה Amazon מרוויחה?
אם AWS תצליח להעביר אפילו חלק מעומסי ה־AI לשבבים שלה, היא יכולה להפחית תלות ב־Nvidia, לשפר מרווחים ולשלוט טוב יותר בזמינות התשתית. זה חשוב במיוחד כשקיבולת הענן ל־AI נמצאת במחסור.
לרקע: מדריך מניית Amazon וגם מדריך מניית Nvidia.
הזווית הישראלית
Annapurna Labs הישראלית היא חלק מרכזי מאסטרטגיית השבבים של AWS. לכן הצלחה של Trainium ושל שכבת התוכנה שסביבו היא גם סיפור ישיר של מרכזי הפיתוח של אמזון בישראל.
אחרי מה לעקוב
לאימוץ מצד חברות AI גדולות, לביצועים מול GPUs של Nvidia ולשאלה האם מפתחים אכן יכולים לעבור בלי לשלם מחיר בתאימות או בביצועים.
