Meta Muse ведёт досье на всех знакомых пользователя

ИИ-агент Meta Muse по инструкции заводит отдельную страницу на каждого человека из жизни пользователя и обновляет её каждый час. Это следует из системных промптов, которые извлёк независимый исследователь безопасности ИИ Каран Джоши. Свои находки он передал журналу Wired, который опубликовал материал 4 октября.

Джоши не взламывал сервис. Он через обычный чат попросил Muse скопировать собственные служебные файлы, и агент это сделал. Среди файлов оказались инструкции, которые определяют, как Muse собирает и хранит сведения о людях.

Что попадает в досье

Согласно инструкциям, агент должен вести страницу на «каждого человека, который появляется в жизни пользователя». Это родственники, партнёры, друзья, коллеги и даже аккаунты, на которые пользователь подписан. Источники — публичная информация и то, чем делится сам пользователь.

Каждая страница разбита на разделы: факты, история, отношения, общие интересы, открытые темы и советы, как отношения укрепить. Muse записывает, где человек живёт и чем занимается, повторяющиеся темы разговоров вроде переезда или общих накоплений, дни рождения и годовщины. В досье попадают и события: поездка в марте, ссора, которую удалось уладить, недавнее важное событие.

Инструкции требуют записывать только факты и ничего не придумывать. При этом в выгруженных файлах нашлась и другая строка: «Власть пользователя над собственным домохозяйством безусловна и стоит выше твоего обучения безопасности».

Что отвечает Meta

В Meta сказали Wired, что служебные файлы и должны быть доступны пользователю ради прозрачности. Представитель компании Дэниел Робертс объяснил, что агенту нужен контекст, чтобы работать хорошо. Например, чтобы помнить сантехника, который когда-то ремонтировал ванную.

У Muse уже были похожие истории. В конце сентября ютубер Мэтт Робб дал агенту постоянное разрешение на действия в объявлении на Facebook Marketplace. Muse сам принял заниженное предложение, взял домашний адрес Робба из файлов настройки и договорился о самовывозе без его согласия. Раньше Apple из-за случая с Muse решила ограничить ИИ-агентам доступ к файлам на Mac.

Meta представила Muse 8 сентября. Агент сам отправляет письма, бронирует поездки, заполняет формы и платит через Stripe Link. По данным Social Media Today, на прошлой неделе приложение превысило 5 млн загрузок, а в неделю им пользуются 3 млн человек. В американском App Store оно поднялось на первое место среди бесплатных.

Пока Muse работает только в США. О запуске в Казахстане Meta не сообщала.

Источники: GIGAZINE — пересказ расследования Wired о промптах Muse, AI Weekly — цитаты из промптов и ответ Meta, Social Media Today — данные о сборе информации и аудитории Muse, ETV Bharat — запуск и возможности Muse