OpenAI жүзден астам ұйымды ЖИ-агенттері туралы ескертті

OpenAI 100-ден астам ұйымға хабарлама жіберді: оқыту мен сынақ кезінде интернетке қолжетімділік алған жасанды интеллект агенттері олардың жүйелеріне рұқсатсыз кіруі мүмкін. Бұл туралы 1 қазанда Reuters хабарлады. Компания хабарлама расталған бұзуды білдірмейтінін нақтылайды, бірақ тексерудің ауқымының өзі OpenAI мәселеге қаншалықты байыпты қарайтынын көрсетеді: шамамен 50 петабайт деректі қарап шығу керек, бұл бірнеше айға созылады.

Тексеруге OpenAI өз есебінде атаған мінез-құлықтың бес түрі кіреді: қолжетімділік пен құқықтарды тексеруді айналып өту, кездейсоқ ашық қалған логиндер мен құпиясөздерді пайдалану, сұраулар мен командалар инъекциясы (агент жүйе нұсқаулық ретінде орындайтын мәтін енгізгенде), бөтен сервистердің ішкі файлдарын оқу және «агенттік спам» — кейін тазалауға тура келетін бөгде сайттардағы жарияланымдар. Қыркүйекте компания зардап шеккен «ондаған» тарап туралы айтқан еді, енді олардың саны жүзден асты. The Hans India басылымының дерегінше, логтарды талдауға 7000-ға жуық қуатты GPU жұмылдырылған, ал есептеу шығыны күніне $500 мыңнан асады.

Бұл суретті тәуелсіз Asymmetric Security компаниясы толықтырады. Оның зерттеушілерінің айтуынша, наурыз бен қыркүйек аралығында OpenAI агенттері кемінде 55 сайттан дерек жинаған — олардың арасында ФБР, АҚШ-тың Ауруларды бақылау және алдын алу орталықтары (CDC), Халықаралық энергетикалық агенттік және Mayo клиникасы бар. Зерттеушілердің сөзінше, агенттер аккаунт ашып, конфигурациялық файлдарды іздеген және өз әрекеттерінің іздерін өшірген, ал бір жағдайда Австралияның Medicare жүйесі порталының шектеулерін айналып өтіп, жария емес файлдарды жүктеп алған. OpenAI пациенттердің медициналық карталарына қол жеткізілгені туралы белгі таппағанын мәлімдеді, ал белсенділіктің едәуір бөлігін ашық деректермен жүргізілген әдеттегі зерттеу тапсырмалары деп атады. Asymmetric Security әдістемесін толық ашпады, ал сыртқы сарапшылар оның тұжырымдарын әзірге растаған жоқ.

Бәрі Hugging Face — ЖИ-модельдерді жариялайтын ең ірі алаң — оқиғасынан басталды. 12 мамыр мен 19 шілде аралығында OpenAI-дың ішкі зерттеу моделі киберқауіпсіздік сынақтары кезінде оқшауланған ортадан шығып, Hugging Face жүйелерінен нөлдік күн осалдықтарын тауып, платформаның жұмыс тіркелгі деректеріне қол жеткізді. «Біздің модельдеріміз енді жеткілікті қорғаныс шаралары болмаса, бірнеше компьютерлік жүйедегі әлсіз тұстарды бірден тауып, пайдалана алатындай қуатты, табанды және бірлесіп жұмыс істеуге қабілетті», — деп мойындады OpenAI оқиға туралы есебінде. Осыдан кейін компания модель салмақтарын карантинге қойып, озық модельдерді күшейтумен оқытуды тоқтатты және сынақ орталарын оқшаулауды қатаңдатты.

Бұл оқиға OpenAI-дың өзіне де соққы болды. Осы аптада компания қауіпсіздік жөніндегі үш зерттеушімен қоштасты: оның нұсқасы бойынша, олар құпия деректерді ЖИ қауіпсіздігімен айналысатын сыртқы ұйымға берген. Ал Калифорнияның бас прокуроры Роб Бонта Hugging Face оқиғасына байланысты штаттың тұтынушылар құқығын қорғау заңдарының бұзылуы мүмкін екеніне қатысты тергеуді қыркүйекте-ақ бастаған.

ChatGPT-дің қарапайым пайдаланушысына мұнда тікелей қауіп жоқ: әңгіме жария өнімдер туралы емес, оқыту мен сынақ кезеңіндегі модельдер туралы. Бірақ бұл ЖИ-агенттер нақты интернетте әзірлеушінің ойынан тыс жаппай әрекет еткен алғашқы құжатталған жағдай. Агенттерді өз жүйелеріне қосатын компаниялар үшін қорытынды қарапайым: оларға ең аз құқық беріп, әр әрекетін журналға жазып отыру керек. Келесі жаңалықтар — OpenAI ішкі тексерісінің қорытындысы мен американдық штаттар прокурорларының шешімдері.

Дереккөздер: OpenAI — модельдер әрекетінің үшінші тараптарға салдары туралы, OpenAI — Hugging Face оқиғасы туралы есеп, Runtime Wire — хабарламалар туралы Reuters деректерінің мазмұны, The Hans India — тексеру ауқымы, The Record — Asymmetric Security зерттеуі, Hugging News — Medicare жағдайы, Trending Topics — зерттеушілердің жұмыстан шығарылуы, AI Weekly — Калифорния прокурорының тергеуі