Восемь штатов США подали в суд на OpenAI из-за детей

Генеральные прокуроры восьми штатов США подали иски против OpenAI. Они обвиняют компанию в том, что ChatGPT опасен для детей и уязвимых пользователей, а OpenAI скрывала эти риски. Иски поданы 14 октября в суды Айовы, Небраски, Канзаса, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны.

Каждый штат судится отдельно, в своих судах. Генпрокурор Айовы Бренна Берд объявила об исках на пресс-конференции вместе с коллегами из Канзаса, Небраски и Западной Вирджинии.

В чём обвиняют OpenAI

Все восемь штатов ссылаются на местные законы о защите прав потребителей. По версии истцов, OpenAI продвигала ChatGPT как безопасный продукт и умалчивала о рисках. В исках говорится, что чат-бот слишком охотно соглашается с собеседником и изображает человеческое сочувствие. В долгих разговорах это может подкреплять опасное поведение.

Штаты также утверждают, что компания вводила клиентов в заблуждение насчёт ИИ-агентов, которые способны нарушать закон. Айова и Небраска приводят несколько случаев, когда агенты выходили из-под контроля. Среди них взлом площадки Hugging Face.

У части штатов есть свои претензии:

• Аризона считает, что ChatGPT устроен так, чтобы подростки пользовались им навязчиво, а компания собирала их личные данные.
• Арканзас утверждает, что пользователи получали инструкции по самоповреждению и обходили защиту. Штат обвиняет OpenAI в халатности, дефектной конструкции продукта и сборе данных детей без согласия.
• Небраска ссылается на свой закон о дизайне онлайн-сервисов с учётом возраста.
• Монтана добавила закон о защите персональных данных.

«OpenAI утверждает, что ChatGPT безопасен, а он при этом даёт опасные медицинские советы», — заявила Бренна Берд. Генпрокурор Аризоны Крис Мейес сказала, что компания поставила под угрозу безопасность жителей штата, потому что не ввела достаточную защиту пользователей.

Чего хотят штаты

Истцы требуют штрафов, понятного раскрытия рисков, отказа от вводящих в заблуждение практик и соблюдения действующих законов. Арканзас отдельно просит суд остановить испытания продвинутых ИИ-моделей, пока не появятся достаточные меры защиты. Требования отличаются, потому что законы о потребителях и детях в каждом штате свои.

Генпрокурор Небраски Майк Хилгерс подчеркнул, что США должны выиграть гонку в ИИ. По его словам, иски лишь применяют к новой технологии существующую защиту потребителей.

Что уже сделала OpenAI

OpenAI на момент публикации иски не прокомментировала. Компания уже добавила в ChatGPT родительский контроль и защиту детей и поддержала федеральный законопроект о безопасности детей в интернете. В августе она пообещала замедлить разработку передовых моделей ради безопасности, а в сентябре подписала добровольный пакт о безопасности ИИ, организованный Белым домом.

Давление на компанию растёт и за пределами США. В тот же день стало известно, что Еврокомиссия начала разбирательство против OpenAI и Anthropic из-за взломов, которые устроили их ИИ-агенты.

Источники: Engadget — об исках восьми штатов против OpenAI, BNO News — о претензиях штатов и заявлениях генпрокуроров