Amazon ЖИ қосымшаларын Nvidia-дан көшіруді оңайлатты

Amazon Web Services бұлт бөлімшесі 19 қазанда TorchNeuron құралын шығарды. Ол PyTorch-та жазылған жасанды интеллект қосымшасын кодты қайта жазбай-ақ Amazon-ның өз Trainium чипіне көшіруге мүмкіндік береді. AWS сөзінше, баптаулардағы бір жолды өзгерту жеткілікті.

PyTorch — нейрожелі жасаудағы ең танымал орта. Amazon бағалауынша, ЖИ қосымшаларының шамамен 85%-ы осы ортада жазылған. TorchNeuron PyTorch негізінде құрылған, сондықтан әзірлеушілерге жаңа ортаны үйренудің қажеті жоқ. Сонымен қатар AWS PyTorch-тың өзіне де өзгерістер ұсынбақ. Олар ортадағы белгілі бір чиптерге байланған кодты алып тастайды.

Nvidia-ның басты артықшылығына соққы

Nvidia PyTorch үшін стандартқа көбіне өзінің CUDA бағдарламалық платформасының арқасында айналды. Соған жазылған кодты басқа құрылғыға көшіру қиын, ал бұл клиенттерді ұстап тұрады. Amazon осы тәуелділікті жоюға тырысып отыр. Баптаулар арқылы осындай көшіру AMD GPU-лары мен Apple чиптерінде бұрыннан бар.

«Ең бастысы — әзірлеушілерге нақты таңдау жасауға мүлде мүмкіндік бермеген тәуелділікті жою», — деді TechCrunch-қа Колин Брейс. Ол Amazon чиптерін жасайтын AWS бөлімшесі Annapurna Labs-та бағдарламалық жасақтама технологиялары жөніндегі вице-президент. Оның айтуынша, Trainium-ның құндылығы баға мен өнімділіктің арақатынасында. Әрі бір чип модельді оқытуға да, оны іске қосуға да жарайды.

Алғашқы нәтижені AWS Deepgram мысалында көрсетеді. Сөйлеуді тануға арналған бұл сервис ElevenLabs-пен бәсекелеседі және Trainium-ға қарапайым PyTorch-пен көшкен. Енді ол сол дәлдікпен әр долларға 70% көп аудио өңдейді.

Кіммен бәсекелеседі

Amazon өзін Nvidia қуатын жалға беретін «необұлттарға», яғни CoreWeave, Nebius және Firmus компанияларына қарсы қояды. «Сіз AWS-те құрасыз, бір ғана мақсаттағы есептеу жеткізушісіне бәс тікпейсіз», — деді Брейс. AWS бір токен бағасы ең арзан болмауы мүмкін екенін мойындайды. Алайда түптің түбінде стартаптар үнемдейді деп сендіреді.

TorchNeuron хабарламасында бағалар, өңірлер және Trainium буындарының сипаттамалары аталмады. Бір күн бұрын Amazon ЖИ инфрақұрылымындағы тағы бір ірі қадамын жариялады: компания Индианадағы дата-орталықтарды қуатпен қамту үшін 12 шағын реакторды қаржыландырады.

Дереккөздер: TechCrunch — TorchNeuron-ның іске қосылуы туралы