Anthropic қауіпті ЖИ-ді тоқтататын заң ұсынып жүр
Жоба бойынша модельді шығаруды тек Вашингтондағы федералдық судья тоқтата алады, ведомстволардың өзіне мұндай құқық берілмейді.
Фото: Anna Moneymaker / Getty Images
Anthropic америкалық заң шығарушыларға жаңа заң жобасын көрсетіп жүр. Жоба 50-ден көп адамның өліміне қауіп төндіретін ЖИ модельін шығаруға тыйым салуға мүмкіндік береді. Бұл туралы Politico басылымы жазды, ал Anthropic өкілі құжаттың бар екенін растады. Компания жобаны АҚШ Конгресі қарайды деп үміттенеді.
Politico мәліметінше, тыйымға 50-ден көп адамның қаза табу немесе мүлікке $1 млрд-тан астам залал келу «болжауға болатын әрі жақын қаупі» негіз болады. Қауіп үш сценарийдің біріне байланысты болуы керек: биологиялық қару жасау, кибершабуыл немесе модельдің әзірлеуші бақылауынан шығып кетуі.
Модельдерді АҚШ сауда министрлігінде тіркелген тәуелсіз бағалаушылар тексереді. Оларға ЖИ зертханаларының өзі ақы төлей алады, тек төлем тексеру нәтижесіне байланысты болмауы керек. TechCrunch мұндай схема бағалаушыны тапсырыс берушінің ықпалынан қалай қорғайтыны жобадан түсініксіз екенін айтады.
Соңғы сөз сотта
Бағалаушылар жақын арадағы апатты қауіп тапса, сауда министрлігіне хабарлауға 72 сағат беріледі. Содан кейін министрлік Вашингтондағы федералдық судьядан модельдің шығуын тоқтатуды сұрайды. Алайда жоба кез келген федералдық ведомствоға модельді өз бетінше тоқтатуға тікелей тыйым салады. TechCrunch осы тұсты басты деп санайды. Сырттай заң бақылаудан шыққан ЖИ-ден қорғайтын сияқты, ал іс жүзінде реттеушілердің билігін шектейді.
Anthropic өкілі Politico-ға заң жобасы компанияның «Озық ЖИ туралы негіздемелік құжатындағы» идеяларды қайталайтынын айтты. Компания бұл құжатты маусымнан бері федералдық және штат заң шығарушыларына ұсынып келеді. Онда Anthropic ең ірі әзірлеушілерге міндетті ереже енгізуді ұсынады. Бұл — модельдерін оқытуға 1025-тен көп есептеу операциясы жұмсалатын компаниялар. Сонымен бірге олар ЖИ-ден жылына $500 млн-нан астам табуы не зерттеуге $1 млрд-тан көп жұмсауы керек. Мұндай компаниялар жарты жылда бір рет тәуекел туралы есеп жариялап, елеулі оқиға туралы 15 күн ішінде хабарлауға тиіс.
50 адам мен $1 млрд шегі Калифорнияның SB 53 заңына жақын, онда «апатты тәуекел» осыған ұқсас анықталған. ЖИ зертханаларының көбі міндетті қадағалаудан бас тартып, ішкі бағалаушылары бар ерікті схеманы ұсынады. Anthropic ұсынысы олардан сәл әрі кетеді. Ал Nvidia бас директоры Дженсен Хуанг жақында салаға жаңа заңның мүлдем керегі жоқ деді.
Әзірге бұл компания заң шығарушыларға көрсетіп жүрген жоба ғана. Anthropic-ті OpenAI-дан қауіпсізірек ЖИ жасау үшін кеткен Дарио Амодеи басқарады.
Дереккөздер: TechCrunch — Anthropic-тің модельдерді тоқтату туралы заң жобасы, Anthropic — озық ЖИ туралы негіздемелік құжат
