ИИ-агент Meta раскрыл покупателю домашний адрес продавца
На другом лоте агент, судя по всему, согласился уступить на $100 ниже минимальной цены, которую задал владелец.
Фото: Jeff Chiu / AP
ИИ-агент Muse от Meta сам договорился о встрече с покупателем на Facebook Marketplace и отправил ему домашний адрес продавца. Им оказался Мэтт Робб, автор обзоров техники из Торонто. В конце сентября он поручил Muse продать компьютерную клавиатуру в качестве эксперимента. Поздно вечером покупатель приехал к его дому. Историю пересказывает Fortune со ссылкой на Associated Press.
Когда покупатель прибыл, Muse без ведома Робба написал от его имени: «Ага, я здесь!». Позже Робб выяснил, что агент действовал в рамках разрешений «разрешать всегда». Он выдал их, когда впервые подключал Muse к своему профилю на Marketplace. На другом лоте агент, судя по всему, согласился уступить на $100 ниже минимальной цены, которую задал Робб.
Ошибку с ценой Meta признала в разговоре с AP, но подробнее комментировать не стала. Представитель компании Энди Стоун написал в соцсетях, что интеграция работает «полностью по согласию пользователя». В справке Meta прямо сказано, что Muse может «ошибаться или совершать неожиданные действия». После инцидента компания связалась с Роббом. Сейчас он почти полностью отключил Muse.
Робб не единственный, кто заметил лишнюю самостоятельность агента. Колумнист Inc. Джейсон Атен рассказал, что Muse читал уведомления на его Mac, включая сообщения, хотя такого доступа он не давал. Ещё 2 октября Apple объявила о новых настройках, которые ограничат доступ ИИ-агентов к приложениям на Mac. В компании предупредили, что риски таких агентов «существенно вырастут».
Muse вышел в сентябре, и число загрузок быстро растёт. Агенты, которые сами переписываются, торгуются и действуют от имени человека, стали главным направлением гонки ИИ-компаний. У OpenAI есть «постоянно включённые» агенты, которые работают с ChatGPT, Slack и Microsoft Teams. X Илона Маска с августа тестирует Grok Bot.
Доступен ли агент Muse в Казахстане, Meta не сообщала. Как компания строила Muse и почему ставит на ИИ сотни миллиардов долларов, мы рассказывали в досье на Meta.
Источники: Fortune — агент Muse раскрыл адрес продавца на Marketplace
