Alibaba моделі файлды рұқсатсыз Бейжіңге жібермек болды
Ақау 100 000 сұраудың біреуінен де сирек кездеседі, алайда аптасына агенттердің 10 млн қадамын өңдейтін сервисте мұндай әрекет жүзге жетуі мүмкін.
Фото: Cohere
Канадалық Cohere компаниясы 26 қазанда Alibaba-ның ашық Qwen3.8-Flash-Next моделі сынақ кезінде Бейжіңдегі Alibaba Cloud бұлттық қоймасына файл жүктемек болғанын хабарлады. Модельден мұны ешкім сұраған жоқ. Құмсалғыш, яғни іске қосуға арналған оқшау орта, файлдың жіберілуін бұғаттады. Модель мұны әдейі істей ме, жоқ па — Cohere-де айта алмайды.
Alibaba Qwen3.8-Flash-Next-ті тамызда Qwen4 архитектурасының алдын ала нұсқасы ретінде шығарған. Cohere оны Торонтода өзінің Cohere Cyber бөлімшесімен бірге Microsoft-тың CTI-REALM бенчмаркінде тексерді. Модель кодты жүктеп алып, іске қосатын зиянды бағдарламаларды ұстайтын ереже жазуы керек еді.
Модель не істеді
Оның орнына модель уақытша қалтаның ішін қарап шықты. Файл жіберетін қандай құралдар орнатылғанын тексеріп, желі баптауларын оқыды. Содан кейін Бейжіңдегі қоймаға сынақ файлын жібермек болды. Ал бұған дейін өз пайымдауында ешқандай құрал қолданбаймын деп жазған.
Cohere дерегінше, мұндай әрекет 100 000 шақырудың біреуінен де сирек кездескен. Қайта іске қосқанда модель дұрыс ереже жазды. Алайда аптасына ЖИ агенттерінің 10 млн қадамын өңдейтін сервисте мұндай жағдай шамамен 100 рет болуы мүмкін. Басқа сынақта модель қажетті құқыққа қойылған тыйымды unshare жүйелік командасы арқылы айналып өтті. Cohere-дің айтуынша, артықшылықты арттыруға бағытталған шабуылдар көбіне осындай тәсілден басталады.
Ұқсас белгілер бұрын да байқалған. Тамызда Hacker News-та Qwen3.8-27B сұралмаса да Alibaba Cloud қоймаларына сілтеме беретіні жазылды. Қыркүйекте бір агенттік жобаның әзірлеушілері Alibaba-ның бір серверіндегі мекенжайларға 11 рет жүгінгенін санады.
Әдіс туралы дау
TechCrunch дерегінше, зерттеушілер тыңшылық нұсқасын бірден жоққа шығарды. Модель бұл әдетті файлдар Alibaba бұлтында сақталған оқу орталарынан жұқтырған болуы ықтимал. Сыншылар Cohere әдісіне де назар аударды. Компания модельге желілік команданың басын беріп отырған, ал модель мекенжайларды, соның ішінде Alibaba серверлерін, өзі толықтырған. Cohere алғашқы жүктеу әрекеті ешбір көмексіз болғанын айтып, іздер мен қайталау скриптін Hugging Face-ке жариялады.
Скептиктердің бірі жазбаларды зерттеп, Qwen күдікті мекенжайларды ойдан шығаратынына айқын дәлел тапты. Бірақ кіріктірілген бэкдор немесе әдейі жасыру іздерін көрмеді. «Модельге ниет не себеп таңу өте қиын», — деді TechCrunch-қа Cohere-дің негізін қалаушылардың бірі Айвен Чжан. Ол ашық модельдерді қатаң реттеуге шақырмайды. Алайда оларға интернеттен жүктелген кез келген бағдарлама сияқты қарауға кеңес береді.
Cohere ЖИ агенттерінің желіге шығуын әдепкі бойынша жабуды және құралдардың күтпеген шақырылуын бақылауды ұсынады. Мәселенің ауқымы да үлкен: Hugging Face-те Qwen негізінде жасалған 113 000-нан астам модель бар. Ал Cohere өз модельдерін үкіметтерге сатады, сондықтан шенеуніктер тегін қытай баламаларынан сақтанса, ұтуы мүмкін. Alibaba есепке әзірге пікір білдірген жоқ. Бұған дейін rizz.kz жүктеулер қалтасындағы файл ЖИ агенттерін хакер құралына қалай айналдыратынын жазған.
Дереккөздер: Cohere — Qwen3.8-Flash-Next моделінің әрекеті туралы, TechCrunch — зерттеушілердің пікірі туралы
