Meta отключила ссылки на чаты Muse после утечки данных

Meta приостановила функцию, которая позволяла делиться переписками с ИИ-агентом Muse по ссылке. Поводом стало исследование компании Claroc: её специалисты нашли больше 6800 таких ссылок и открыли часть из них. В общих чатах оказались сведения о деловых встречах, банковских счетах и кредитах.

Meta запустила Muse 8 сентября. Агент умеет делать покупки, отправлять письма и планировать поездки за пользователя. Общий чат открывался по ссылке без входа в аккаунт, так и было задумано. Проблема оказалась в адресе: Muse составлял его из заголовка переписки, и этот адрес попадал в публичную систему DNS. Поэтому общие чаты можно было найти через сервисы пассивного DNS, которые хранят историю запрошенных адресов. «Один поиск по пассивному DNS возвращает тысячи таких чатов, перечисленных по названиям, как оглавление», — пишут исследователи.

Claroc открыла лишь несколько сотен чатов. Большинство были безобидными, но среди них нашлись:

• подготовка кандидата к собеседованию с именем контакта в ИИ-лаборатории и временем встречи;
• внутренний обзор выручки маркетинговой компании для её CEO;
• заявка малого бизнеса на кредит с суммой;
• уведомление банка о мошенничестве с частью номера счёта и суммой операции;
• отчёт инвестора с адресами объектов недвижимости, доходами и ипотекой;
• годовой график отпусков сотрудников компании.

Claroc сообщила о проблеме в программу Meta по поиску уязвимостей 8 октября, а отчёт опубликовала 18 октября. После публикации Ars Technica Meta заявила: «Мы приостановили эту функцию, пока изучаем отчёт и думаем, как изменить способы обнаружения таких ссылок».

Утечка пришлась на пик популярности Muse. По данным Sensor Tower, за первые 40 дней приложение скачали 10,9 млн раз, из них 10,2 млн в США. Такой результат после запуска показывали лишь 11 приложений, последним был Threads в июле 2023 года. 16 октября у Muse впервые набралось 2,5 млн активных пользователей за день.

Пока Muse официально работает только в США и Канаде, в Казахстане он недоступен. Это не первый сбой ИИ-агентов Meta на этой неделе: накануне ИИ-агент Meta раскрыл покупателю домашний адрес продавца.

Источники: Claroc — исследование общих чатов Muse, Engadget — Meta приостановила обмен чатами Muse, TechCrunch — 10 млн загрузок Muse в США