Meta Mac-те жұмыс істейтін ашық ЖИ моделін шығарды
M5 Ultra чипі бар төрт Mac Studio-да модель секундына 37-ге жуық токен шығарады, ал мұндай компьютер жиынтығы шамамен $38 мың тұрады.
Фото: Apple
Meta 15 қазанда Muse Spark моделінің ашық нұсқасы Muse Spark Open-ді жариялады. Модельдің салмақтарын Hugging Face-тен жүктеп, өз компьютеріңде іске қосуға болады. Meta оны ең қуатты америкалық ашық модель деп атайды және Mac-ке бәс тігіп отыр. Бұл M5 Ultra чипі бар Mac Studio-да жергілікті жұмыс істеуге бейімделген алғашқы модель.
Muse Spark Open-де 816 млрд параметр бар. Модель «сарапшылар қоспасы» тәсілімен жасалған, яғни әр токенге тек 42 млрд параметр жұмыс істейді. Контекст терезесі 1 млн токенге жетеді. Демек модель өте ұзын құжаттарды немесе кодтың үлкен бөліктерін есте ұстай алады. Ол мультимодальды және бағдарламалауға, сондай-ақ ЖИ әрекеттер тізбегін өзі орындайтын агенттік тапсырмаларға арналған.
Қанша Mac керек
Модель бір компьютерге сыймайды. Бастапқы дәлдікте тек параметрлердің өзіне 1,6 ТБ-тан астам жад қажет. Сығылған 4 биттік NVFP4 форматында көлемі шамамен 493 ГБ-қа дейін азаяды. Apple инженерлері бұл нұсқаны Thunderbolt 5 кабельдерімен жалғанған бірнеше Mac Studio-ға бөліп орналастырды.
Нәтижелерді Apple машиналық оқыту жөніндегі блогында жариялады. M5 Ultra чипі бар төрт Mac Studio секундына 36,7 токен шығарады, бұл адамның оқу жылдамдығынан жоғары. Екі компьютер модельді бөлу тәсіліне қарай секундына 15,7-ден 25 токенге дейін береді.
Мұндай іске қосу арзанға түспейді. Engadget есебінше, 256 ГБ жады бар M5 Ultra чипті төрт Mac Studio шамамен $38 мың тұрады. 512 ГБ-тық Mac Studio қазан айының соңында күтіледі, бірақ Apple оның бағасы мен сатылым күнін әлі жарияламады.
Қытай модельдеріне қарсы
Meta АҚШ ашық ЖИ саласын қытай зертханаларына бермеуі керек деп ашық айтады. Компанияның тесттері бойынша, Muse Spark Open агенттік тапсырмалар мен визуалды ойлауда қытайлық GLM 5.3 пен Kimi K3-тен озады. TechCrunch пен Engadget материалдарында нақты сандар жоқ.
Марк Цукерберг X желісінде модель Apple CEO-сы Джон Тернуспен бірлескен жұмыстың арқасында «жаңа Mac Studio-да тамаша істейтінін» жазды. Модель бірнеше провайдердің API-і арқылы да қолжетімді. Бұл Meta-ның бір аптадағы екінші ірі моделі: 12 қазанда компания флагмандық Muse Wonder моделін көрсеткен еді.
Дереккөздер: TechCrunch — Meta Muse Spark Open-ді шығарды, Engadget — жадқа қойылатын талаптар мен құны, Apple Machine Learning Research — Muse Spark Open-ді Mac Studio-да іске қосу
