OpenAI ChatGPT мәтіндеріне көрінбейтін белгі қояды

OpenAI 5 қазанда Еуропалық одақтағы пайдаланушыларға ChatGPT пен Codex жазған мәтіндерге көрінбейтін су белгісін енгізетінін хабарлады. Компания осылайша ЕО-ның жасанды интеллект туралы заңының талабын орындайды. Заң бойынша генеративті модель жазған мәтінді машина арқылы ажыратуға болуы керек. Белгі ЕО-дағы барлық тарифте алдағы апталарда пайда болады.

Технологияның аты textGrain. Бұл сөз таңдауына жасырылған статистикалық сигнал. Модель сөз таңдауын сәл ығыстырады, оқырман мұны байқамайды. Ал арнайы детектор үзіндіні тексеріп, оны OpenAI моделі жазды ма, жоқ па, соны бағалайды.

Компания сынақ нәтижелерін жариялады. Қате дабыл үлесі 1% болғанда детектор 200 токендік үзінділердің 80%-ында, 400 токендік үзінділердің 95%-ында белгіні табады. Токен деп модель жұмыс істейтін сөз бөлігін айтады. Яғни 400 токен шамамен қысқа жазбаның көлеміне тең.

Алайда мәтінді өңдесе, белгі оңай әлсірейді. Сөздердің 10%-ы ауыстырылса, танылған мәтін үлесі 92%-дан 66%-ға түседі. Сөздердің төрттен бірі қайта жазылса, детектор белгіні тек 17% жағдайда ғана табады. Сондықтан қайта тұжырымдалған эссе мен посттарды бұл тәсілмен ұстау қиын болмақ.

Детектор жалпыға ашық сервиске айналмайды. Оны тек мақұлданған зерттеушілер мен сараптама ұйымдары пайдалана алады. OpenAI өтінімдерді 5 қазаннан бастап қабылдап жатыр және әрқайсысын еуропалық ЖИ тәжірибе кодексінің ережесіне сай жеке қарайды. API арқылы жұмыс істейтін әзірлеушілер кез келген елде белгіні кейбір модельдер үшін өз қалауымен қоса алады.

Таңбалау тек ЕО-да міндетті болады. Ол басқа елдерде, соның ішінде Қазақстанда, ChatGPT пайдаланушылары үшін енгізіле ме, жоқ па, компания әзірге айтқан жоқ. Сол күні OpenAI ChatGPT-дегі жаңа жарнама форматтары туралы да айтты, оның сурет жасау кезіндегі сынағы қазан айының соңына қарай АҚШ-та басталады.

Дереккөздер: OpenAI — ЕО ережелері және textGrain технологиясы туралы