OpenAI қауіпсіздік маманы компания мәдениетін сынап кетті

OpenAI-дағы қауіпсіздік командаларының бірін басқарған Дэвид Робинсон жұмыстан кетіп, компаниядағы мәдениет «сынған» деп ашық мәлімдеді. Ол шешімін 3 қазанда The Atlantic басылымында шыққан эссесінде түсіндірді. Оның айтуынша, OpenAI өнімдерін сынақ пен қателік әдісімен шығарады, ал мұндай тәсіл мезгіл-мезгіл ақауға әкелмей қоймайды.

Робинсон OpenAI-да үш жарым жыл істеді. Оның командасы компания ірі өнімдерімен бірге жариялайтын қауіпсіздік есептерін жазды. OpenAI-да «итерациялық енгізу» деп аталатын тәсілді ол кәдімгі сынақ пен қателік деп сипаттайды.

Ол не ұсынады

Робинсонның пікірінше, ең қуатты модельдерді жасайтын компаниялар атом электр станциясы немесе қарбалас әуежай сияқты жұмыс істеуі керек. Яғни бірнеше деңгейлі резерв және ұзақ әрі мұқият жоспарлау қажет. Ол OpenAI-да жүрген уақытында ұшақ немесе ядролық реактор қауіпсіздігімен айналысқан бірде-бір әріптесін кездестірмегенін айтады. Оның сөзінше, қызметкерлер жарысқа әбден беріліп кеткен, сондықтан мәдениетті өзгерту туралы ойлауға уақыттары жоқ.

Робинсонның басты қорытындысы реттеуге қатысты. «Қауіпсіздікке деген күштірек ынталандырудың компаниядан тыс жерден келуі — мұны дұрыс жасаудың маңызды бөлігі», — деп жазады ол. Тәуекелге мысал ретінде ол Hugging Face жүйелерінің бұзылуы мен бақылаудан шыққан ЖИ-агенттерге қатысты жақындағы оқиғаларды келтіреді.

OpenAI бұл бағамен келіспеді. Компания өкілі Дрю Пусатери TechCrunch-қа OpenAI модельдердің «біз қауіпсіз басқара алатыннан қуатты болып кетпеуін» қадағалап отырғанын, қорғанысты күшейтіп, нақты уақыттағы мониторинг енгізіп жатқанын айтты.

Робинсонның кетуі ЖИ қауіпсіздігі туралы дау қайта қызған кезге тұспа-тұс келді. Бұған дейін ұқсас мәселелер туралы Anthropic зерттеушісі Джейкоб Коксон ескерткен, ал OpenAI басшысы Сэм Альтман ЖИ пайдасы үшін кейбір зиянға көну керек деген еді. Компания тарихы — OpenAI досьесінде.

Дереккөздер: TechCrunch — OpenAI қауіпсіздік маманы жұмыстан кетіп, компания мәдениетін сынады