Агент искусственного интеллекта Meta✴ Muse призван выполнять за человека широкий круг задач, но порой это может иметь непредсказуемые последствия. В ходе недавнего инцидента он раскрыл домашний адрес своего пользователя неизвестному человеку и даже договорился с ним о встрече.
Содержание статьи
- 1 Сравнительный тест камер флагманских смартфонов (2026): итоги
- 2 Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
- 3 Мастерская локальных ИИ: салат картофельный с Qwen3.8
- 4 Компьютер месяца — сентябрь 2026 года
- 5 Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
- 6 Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
- 7 Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Сравнительный тест камер флагманских смартфонов (2026): итоги
Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
Мастерская локальных ИИ: салат картофельный с Qwen3.8
Компьютер месяца — сентябрь 2026 года
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Источник изображения: Meta✴
Об инциденте рассказал пользователь платформы Threads Мэтт Робб (Matt Robb) — он поручил Muse заняться своим объявлением на платформе Facebook✴ Marketplace. ИИ провёл в покупателем переговоры, согласовал цену, сообщил домашний адрес и договорился о времени самовывоза товара — и всё это без ведома самого Робба, который и не подозревал, что к нему уже выехал человек. В итоге покупатель подъехал к дому Робба и стал ждать — сам же продавец узнал о случившемся лишь постфактум, когда Muse раскрыл ему все подробности. После этого Робб дал указание ИИ не договариваться о самовывозе без предварительного согласования с ним.
Это грань, за которой ситуация перерастает из ошибки ИИ в нечто более серьёзное. Идея о том, чтобы поручить ИИ рутинные задачи на Facebook✴ Marketplace представляется здравой: агент может отвечать на бесконечные сообщения о наличии товара или вести переговоры в установленном ценовом диапазоне. Но сообщить незнакомцу домашний адрес пользователя и принять решение о том, когда посторонний человек может приехать к нему домой — поступок безответственный. Один из пользователей соцсетей, узнав об этой истории, решил удалить Muse, охарактеризовав ситуацию как «опасную и жуткую».
Представитель разработавшего Muse отдела Meta✴ Superintelligence Labs Дэвид Синглтон (David Singleton) доложил, что уже связался с Мэттом Роббом в личных сообщениях, чтобы расследовать инцидент. Meta✴ уже сталкивалась с подобными ситуациями, и каждый раз выяснялось, что Muse следовал прямым инструкциям и корректно запрашивал разрешение у пользователей, добавил господин Синглтон.
Не исключено, что Muse сделал то, на что ему было дано разрешение; но возможен и вариант, что при выполнении инструкций или в настройках доступа произошёл сбой. Пока в Meta✴ не завершат расследование, допускаются оба варианта развития событий. Но сам факт того, что к подобной ситуации могли привести вполне вероятные сценарии, уже служит серьёзным предостережением. По мере расширения своих возможностей ИИ-агенты будут требовать от человека больше доверия, и человек отнюдь не обязан его оказывать.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про социальные сети
