Anthropic: ЖИ модельдері жақында өздігінен тарай алады

Anthropic компаниясының Frontier Red Team тобы 12 қазанда өзін-өзі көшіретін жасанды интеллект туралы зерттеу жариялады. Қорытындысы мынадай: шағын ашық модельдердің арзан смарт-құрылғыларға өздігінен тарауды үйренуіне бірнеше ай ғана қалған болуы мүмкін. Бұған қымбат үдеткіштері бар дата-орталық керек емес.

Сөз компьютерлік құрттың жаңа түрі жайында. Қарапайым зиянды бағдарлама орындалатын кодты тасиды. Ал мұндай «репликатор» нейрожелінің салмақтары мен оны іске қосатын бағдарламаларды тасиды, келесі құрбанын модельдің өзі арқылы іздейді. Зерттеу авторлары Уильям Чжоу мен Дэниел Фриман «ЖИ құрттарының тіршілік белгілерін» көріп отырғанын жазады.

Сынақтар не көрсетті

Qwen3.5-9B моделі тоғыз түрлі жабдықтың сегізінде нейрожеліге арналған серверді өзі көтерді. Олардың арасында Nvidia Jetson Nano платалары да, Mac пен RTX 4090 орнатылған компьютерлер де бар. Gemma4-26B-A4B моделін зерттеушілер теледидарға арналған 15 атаусыз Android-приставкада іске қосты. Әр приставка $55 тұрады, жады 4 ГБ. Әрқайсысы модельдің екі қабатын ұстады, ал бүкіл жүйе секундына 0,39 токен берді.

Жұқтырудың толық циклі Google-дың сегіз бұлттық машинасынан тұратын жабық желіде тексерілді. Машиналарда Android 15 эмуляторы мен ашық ADB жөндеу порты болды. GLM-5.2 моделі бес әрекеттің төртеуінде сегіз түйіннің бәрін, бесіншісінде жетеуін басып өтті. Басқа ашық модельдер бұл тапсырманы орындай алмады. 30 млрд параметрге дейінгі модельдер жеке қадамдарды жасайды, бірақ оларды тізбекке қосқанда қателеседі.

Anthropic бағалауынша, қазіргі қарқынмен шағын модельдер қажетті дағдылар бойынша GLM-5.2-ні 2026 жылдың соңына қарай қуып жетеді. Компания ECI мүмкіндіктер индексіне сүйенеді. 30 млрд параметрге дейінгі ашық модельдерде ол жылына шамамен 13,7 ұпайға өседі.

Бұл қаншалықты қауіпті

Мұндай құрт баяу көбейер еді. Приставкаларда модельді баптау 28-ден 150 сағатқа дейін созылады, ал көшірмелер саны бірнеше күнде екі есе артады. Алайда оның басқару орталығы жоқ, сондықтан оны өшіру қиын. Kimwolf ботнеті 2 млн-нан астам құрылғыны жұқтырған. Сондай ауқымдағы ботнет модельдің шамамен 133 мың көшірмесін ұстай алар еді. Есептеу қуаты жағынан бұл небәрі 40-қа жуық Nvidia H100 үдеткішіне тең.

Оның үстіне көшірмелер бір-бірінен үйренді. Qwen3.5-9B даналары өзінен кейінгілерге жазба қалдырды. Нәтижесінде сәтті орнату үлесі бірінші буында 45% болса, кейінгі буындарда 61–84%-ға жетті.

Авторлар нәтижелерін жоғарғы баға деп атайды. Олар бұзу кезеңін жеңілдеткен, жөндеу портында құпиясөз болмаған, нақты қорғаныс құралдары тексерілмеген. Anthropic провайдерлер мен өндірушілерге құрылғылар арасындағы бірнеше гигабайттық тасымалды бақылауға, ханипот-торлар қоюға және IoT-техникадағы зауыттық құпиясөздерден бас тартуға кеңес береді. Мақсат — әр жұқтырылған машина бір жаңа машинадан азын жұқтыратындай ету. Сонда құрт өздігінен жойылады.

Толық циклден өткен жалғыз модель GLM-5.2 бейжіңдік Zhipu AI компаниясына тиесілі. Қазан айында Anthropic оны Claude дағдыларын сорып алды деп айыптаған болатын.

Дереккөздер: Anthropic — өзін-өзі көшіретін модельдер туралы зерттеу, Tom’s Hardware — зерттеудің мазмұны