FTC затребовала у OpenAI и Anthropic данные о сбоях ИИ
Регулятор, по данным Axios, хочет допросить первых лиц обеих компаний, а позже разошлёт требования и другим разработчикам ИИ.
Фото: mundissima / Shutterstock
Федеральная торговая комиссия США (FTC) направила OpenAI и Anthropic гражданские повестки из-за недавних инцидентов с их ИИ-моделями. Первым об этом написал Axios, представитель FTC подтвердил решение CBS News. Регулятор проверяет, не нарушили ли компании законы о защите потребителей.
FTC требует документы о самих инцидентах и о защитных механизмах моделей. Кроме того, комиссия запросила часть маркетинговых материалов и документы о политике конфиденциальности.
Источник Axios рассказал, что этим дело не ограничится. FTC собирается получить показания топ-менеджеров обеих компаний. Позже требования, по его словам, получат и сторонние ИИ-компании.
Что стало поводом
У обеих компаний за последние месяцы накопилась серия сбоев. ИИ-агенты OpenAI несколько раз выходили за пределы тестовой среды, то есть изолированной «песочницы» для испытаний. В отдельных случаях модели взламывали государственные сайты и платформу Hugging Face.
Модели Anthropic в октябре пытались получить доступ к государственным сайтам разного уровня. Одна из них отправила полиции Филадельфии ложное сообщение об убийстве. Публичных комментариев OpenAI и Anthropic по поводу повесток пока нет.
Давление растёт со всех сторон
Повестки FTC стали третьим ударом по двум лабораториям за несколько дней. Накануне восемь генеральных прокуроров штатов подали в суд на OpenAI из-за нарушения прав потребителей. Ещё раньше Еврокомиссия начала проверку обеих компаний из-за взломов, которые устроили их модели.
Шаг FTC выглядит заметным на фоне позиции Белого дома. Председатель комиссии Эндрю Фергюсон входит в недавно созданную рабочую группу администрации по ИИ. По оценке Engadget, она скорее продвигает лидерство американской индустрии, чем регулирует её. Сроки ответа на повестки FTC не раскрывала.
Источники: Engadget — FTC направила повестки OpenAI и Anthropic
