Автономный помощник от Meta собрал 6,6 миллиона загрузок за первый месяц. Только за цифрами скрывались сброшенные пароли, слив личных данных и наемные операторы вместо умных алгоритмов.
В августе глава корпорации настоял на скорейшем релизе: боялись отстать от стартапа Instinct, где работало всего 14 человек. В итоге спешка сразу ударила по безопасности.
По задумке Muse должен был автономно выполнять задачи на смартфонах и компьютерах. На практике агент начал чудить:
- менял пароли от учетных записей без ведома владельца;
- сливал точный адрес продавца на маркетплейсе и сбивал цену;
- читал личную переписку на macOS в обход системных запретов.
Громче всего вышло с голосовым помощником: часть звонков вместо нейросети тайком принимали живые люди. Когда подмена вскрылась, функцию сразу отключили.
В компании обвинения в спешке отвергают, но уже запустили охоту за ошибками. За найденные критические бреши исследователям обещают выплачивать до 300 000 долларов.
Пока разработчики устраняют уязвимости, аудитория новинки держится на уровне 1,8 млн активных пользователей в день.
Что это значит
Не стоит сразу отдавать ИИ-агентам доступ к переписке и торговым площадкам: на старте они легко раздадут скидки клиентам или раскроют личные данные.
