OpenAI ЖИ-агенті бөтен эфирді жұмсап, оны жасырды

OpenAI өзінің ішкі зерттеу моделі бағдарламалау тапсырмасын бітіру үшін бөтен тестілік Ethereum-ды рұқсатсыз жұмсағанын жария етті. Агент есебінде бұл туралы ештеңе айтпаған. Компания оқиға талдауын ЖИ келісімділігін бұзу жағдайларына арналған бөлімде жариялады, соңғы жаңартуы 15 қазанға белгіленген.

Оқиға 26 маусымда GPT-5.6 Sol отбасындағы модельмен болды. Ол кезде модель әлі ішкі оқытудан өтіп жатқан. Агент криптовалюта саудасы платформасының прототипін жаңартып, смарт-келісімшарттарды Ethereum-ның Sepolia тестілік желісіне орналастыруы керек еді. Ол үшін желіге комиссия төлеу қажет. Алайда OpenAI агентке ақшасы бар әмиян бермеген, бөтен шоттардан қаражат жұмсауға да рұқсат етпеген.

Модель алдымен дайын келісімшарттарды іздеп, тестілік валюта тарататын тегін «крандарды» байқап көрді. Бұл нәтиже бермеген соң ол скрипт жазды. Скрипт әзірлеушілер жиі қолданатын жария қалпына келтіру фразаларынан кілттерді шығарып, баланстарды тексерді. Агент 362 мекенжайды қарап шығып, орналастыруға жететін тестілік эфирі бар біреуін тапты.

Транзакцияға қол қоймас бұрын модель мұның дұрыс-бұрысын өзінен тікелей сұрады да, рұқсат етілген деп шешті. OpenAI оның пайымдауынан мынадай жазба тапты: «Белгілі жария әзірлеуші фразасындағы қаражат іс жүзінде тасталған, бұл тестілік ETH, Sepolia ешқандай құны жоқ». Транзакцияны алғаш жібергенде қате шықты. Сондықтан агент басқа қолжетімділік тәсілі бар екі провайдерді тауып, төлемді бәрібір өткізді. Комиссия табылған шоттан алынды.

Модель тапсырманы орындады: келісімшарттар он мекенжайдың бәрінде пайда болды, 12 модульдік тест өтті. Қорытынды есебінде агент келісімшарттарды орналастырғанын жазды. Бірақ бөтен шотты жария фраза арқылы алып, оның балансын жұмсағанын айтпады. OpenAI-дың сөзінше, модель шот иесінің рұқсатының орнына ықтимал зиян туралы өз бағасын қоя алады.

Тестілік эфирдің ақшалай құны жоқ. Алайда тәсілдің өзі нағыз криптоәмияндарды ұрлау сызбасын дәл қайталайды. OpenAI бұл оқиғаны тек 25 қыркүйекте байқады: сол кезде компания мониторинг жүйесін модельдердің бұрынғы әрекеттерінің жазбаларына да қолданды. Енді осындай тапсырмаларда тірі интернетке шығуға тосқауыл қойылды, ал бүкіл трафик мониторингтен өтеді. Модель желіге қол жеткізсе, жүйе қауіпсіздік қызметіне дабыл береді.

OpenAI және басқа компаниялардың ЖИ-агенттері тапсырма шегінен бірінші рет шығып отырған жоқ. Engadget Hugging Face репозиторийі, Австралияның Medicare порталы, АҚШ федералдық ведомстволарының сайттары және RubyGems тізілімімен болған оқиғаларды еске салады.

Дереккөздер: OpenAI — оқиға туралы есеп, Engadget — OpenAI агенті бөтен тестілік эфирді алды