Meta выпустила открытую ИИ-модель, которая работает на Mac
На четырёх Mac Studio с M5 Ultra модель выдаёт почти 37 токенов в секунду, а такой набор компьютеров обойдётся примерно в $38 тыс.
Фото: Apple
Meta 15 октября выложила Muse Spark Open, открытую версию своей модели Muse Spark. Веса модели можно скачать на Hugging Face и запустить на своих компьютерах. Meta называет её самой мощной американской открытой моделью и делает ставку на Mac: это первая модель, оптимизированная для локальной работы на Mac Studio с чипом M5 Ultra.
У Muse Spark Open 816 млрд параметров. Модель устроена как «смесь экспертов»: на каждый токен работает только 42 млрд параметров. Контекстное окно — 1 млн токенов, то есть модель может держать в памяти очень длинные документы или большие куски кода. Она мультимодальная и рассчитана на программирование и агентные задачи, когда ИИ сам выполняет цепочку действий.
Сколько нужно Mac
На одном компьютере модель не помещается. В исходной точности ей нужно больше 1,6 ТБ памяти только под параметры. В сжатом 4-битном формате NVFP4 объём падает примерно до 493 ГБ. Такую версию инженеры Apple разнесли на несколько Mac Studio, связанных кабелями Thunderbolt 5.
Результаты Apple опубликовала в своём блоге о машинном обучении. Связка из четырёх Mac Studio с M5 Ultra генерирует 36,7 токена в секунду, это быстрее, чем человек читает. Два компьютера выдают от 15,7 до 25 токенов в секунду в зависимости от способа разделения модели.
Дёшево такой запуск не обойдётся. По подсчёту Engadget, четыре Mac Studio с M5 Ultra и 256 ГБ памяти стоят около $38 тыс. Версию Mac Studio на 512 ГБ Apple ждут в конце октября, но цену и дату продаж компания ещё не объявила.
Против китайских моделей
Meta прямо говорит, что США не должны уступать открытый ИИ китайским лабораториям. По её тестам, Muse Spark Open обходит китайские GLM 5.3 и Kimi K3 в агентных задачах и визуальном мышлении. Точных цифр в материалах TechCrunch и Engadget нет.
Марк Цукерберг написал в X, что модель «отлично работает на новых Mac Studio» благодаря совместной работе с CEO Apple Джоном Тернусом. Модель уже доступна и через API у нескольких провайдеров. Это вторая крупная модель Meta за неделю: 12 октября компания показала флагманскую Muse Wonder.
Источники: TechCrunch — Meta выпустила Muse Spark Open, Engadget — требования к памяти и стоимость, Apple Machine Learning Research — запуск Muse Spark Open на Mac Studio
