Google PyTorch-ты өз чиптерінде іске қосатын кодты ашты

Google өзінің TPU атты жасанды интеллект чиптерінде PyTorch-ты іске қосуға арналған TorchTPU бағдарламалық стегін ашық қолжетімділікке шығарды. Компания бұл туралы 20 қазанда PyTorch Conference 2026 конференциясында хабарлады. Енді әзірлеушілер модельдерді бейнекарталардан TPU-ға кодты қайта жазбай-ақ дерлік көшіре алады. Бұл Nvidia-ның басты артықшылықтарының бірін әлсіретеді.

PyTorch — нейрожелілерді оқытуға арналған ең танымал кітапхана. Оны Meta жасаған, ал индустрияның басым бөлігі модельдерді дәл осы кітапханада жазады. PyTorch бұрыннан Nvidia бейнекарталарында CUDA платформасы арқылы жақсы жұмыс істеді. TPU үшін бөлек torch_xla қондырмасын қолдануға тура келетін, әзірлеушілер оны ыңғайсыз деп санады.

TorchTPU-да Google чиптері PyTorch-қа бейнекарталар мен процессорлар секілді қосылады. Яғни кодта «tpu» құрылғысын көрсету жеткілікті. Стек әдеттегі режимде түзетуге және torch.compile арқылы жылдамдатуға мүмкіндік береді. Код Apache 2.0 лицензиясымен таратылады, соңғы жария нұсқасы — 0.2.0.

Сынақтар не көрсетті

Google жетінші буындағы Ironwood (TPU v7x) чиптеріндегі нәтижелерді жариялады. Llama 3 405B моделін оқытқанда жүйе 128-ден 1024 чипке дейінгі кластерлерде есептеу блоктарының шамамен 57% жүктемесін сақтайды. Qwen3-8B моделінде бұл көрсеткіш 52%-ға жетеді.

Ірі Qwen3 235B моделін компания сегіз блоктағы 8192 чипте іске қосты. Мұндай ауқымда әр чип 64 чиптік кластермен салыстырғанда өнімділігінің шамамен 92%-ын сақтады. Жалпы жүйе 8192 Ironwood TPU-ға дейінгі кластерлерде тексерілді.

Кімдер қатысады

TorchTPU-ды Meta-дағы PyTorch командасымен бірге әзірледі. Модельдерді іске қосатын танымал vLLM және SGLang құралдары, Ray фреймворкі және Hugging Face кітапханалары қолдауды қосып та үлгерді. Transformers v5-те модельді TPU-ға бір параметрмен жіберуге болады.

«Бұл — үлкен қадам», — деді Meta-ның PyTorch әзірлеу жөніндегі директоры Яна ван Гройнен. Оның айтуынша, TorchTPU арқасында Meta PyTorch-тағы жұмыстарын Google чиптерінде іске қоса алады.

Нарық үшін бұл бәсекенің белгісі. CUDA-ға байланып қалу әзірлеушілерді Nvidia үдеткіштерінде ұстап тұрды, ал енді Google чиптеріне көшу жеңілдейді. Google TPU-ға қолжетімділікті бұлт арқылы сатады және сегізінші буынды жариялап қойды: оқытуға арналған TPU 8t және модельдердің жұмысына арналған TPU 8i. TorchTitan-да жаңа чиптерге қолдау олар шыққан сайын қосылмақ. Компания туралы толығырақ — Google досьесінде.

Дереккөздер: Google Cloud — TorchTPU анонсы, Google for Developers — TPU-дағы TorchTitan сынақтары, GitHub — TorchTPU репозиторийі