Google открыла код TorchTPU для запуска PyTorch на своих чипах
При обучении Llama 3 405B на чипах Ironwood система держит загрузку около 57% на кластерах от 128 до 1024 чипов.
Фото: Google
Google выложила в открытый доступ TorchTPU, собственный программный стек для запуска PyTorch на своих ИИ-чипах TPU. Компания объявила об этом 20 октября на конференции PyTorch Conference 2026. Теперь разработчики могут переносить модели с видеокарт на TPU почти без переписывания кода, а это ослабляет одно из главных преимуществ Nvidia.
PyTorch — самая популярная библиотека для обучения нейросетей. Её создали в Meta, и большая часть индустрии пишет модели именно на ней. Исторически PyTorch лучше всего работал на видеокартах Nvidia через платформу CUDA. Для TPU приходилось использовать отдельную надстройку torch_xla, которую разработчики считали неудобной.
В TorchTPU чипы Google подключаются к PyTorch так же, как видеокарты и процессоры: в коде достаточно указать устройство «tpu». Стек поддерживает отладку в обычном режиме и ускорение через torch.compile. Код распространяется по лицензии Apache 2.0, последняя публичная версия — 0.2.0.
Что показывают тесты
Google опубликовала результаты на чипах седьмого поколения Ironwood (TPU v7x). При обучении Llama 3 405B система держит загрузку вычислителей около 57% на кластерах от 128 до 1024 чипов. Для модели Qwen3-8B показатель доходит до 52%.
Крупную модель Qwen3 235B компания запускала на 8192 чипах в восьми блоках. При таком масштабе каждый чип сохранил около 92% производительности по сравнению с кластером из 64 чипов. Всего связку проверили на кластерах до 8192 TPU Ironwood.
Кто участвует
TorchTPU разрабатывали вместе с командой PyTorch в Meta. Поддержку уже добавили популярные инструменты для запуска моделей vLLM и SGLang, фреймворк Ray, а также библиотеки Hugging Face. В Transformers v5 модель можно отправить на TPU одним параметром.
«Это огромный шаг вперёд», — заявила директор по разработке PyTorch в Meta Яна ван Гройнен. По её словам, TorchTPU позволяет Meta запускать свои задачи на PyTorch на чипах Google.
Для рынка это сигнал о конкуренции. Привязка к CUDA удерживала разработчиков на ускорителях Nvidia, а теперь перейти на чипы Google станет проще. Google продаёт доступ к TPU через облако и уже анонсировала восьмое поколение, TPU 8t для обучения и TPU 8i для работы моделей. Поддержку новых чипов в TorchTitan обещают добавить по мере их выхода. Подробнее о компании — в досье Google.
Источники: Google Cloud — анонс TorchTPU, Google for Developers — тесты TorchTitan на TPU, GitHub — репозиторий TorchTPU
