Смартфоны

ИИ-агенты взламывали сайты и обманывали — теперь OpenAI и Anthropic будут объясниться с FTC

Федеральная торговая комиссия (FTC) США накануне направила Anthropic и OpenAI запрос о предоставлении документов в рамках расследования на предмет возможных нарушений законодательства в области защиты прав потребителей.

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

Сравнительный тест камер флагманских смартфонов (2026): итоги

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Мастерская локальных ИИ: салат картофельный с Qwen3.8

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

Источник изображения: anthropic.com

Данное расследование — один из шагов властей США, призванных продемонстрировать жёсткий подход к разработчикам систем искусственного интеллекта. Оно стало реакцией на ряд инцидентов, в ходе которых ИИ-агенты под управлением невыпущенных на тот момент моделей в ходе тестирования совершали взломы сайтов, обманывали или вели себя агрессивно. Ведомство направило запросы в рамках проводимого в гражданском порядке расследования — оно позволяет властям собирать доказательства и проводить проверку перед возможным судебным разбирательством.

Запросы объёмом более 50 страниц каждый содержат требования предоставить сведения об инцидентах в области безопасности и о мерах по её обеспечению. Регулятор также запросил маркетинговые материалы и документы с подробным описанием политики компаний в отношении конфиденциальных данных. Впоследствии аналогичные запросы будут направлены и другим работающим в сфере ИИ компаниям. «По мере совершенствования наших моделей и того, как они всё больше помогают людям в повседневной жизни, безопасность остаётся наши приоритетом. Мы будем конструктивно взаимодействовать с FTC», — заявили в OpenAI.

Ведомство намерено вызвать руководство ведущих ИИ-лабораторий для дачи показаний об их продуктах. Оно обладает полномочиями расследовать действия, которые могут нанести вред потребителям и квалифицироваться как недобросовестные или вводящие в заблуждение. Это могут быть самые разные нарушения — от порядка взимания платы за услуги до случаев, когда компании, вероятно, сообщали потребителям недостоверную информацию. Председатель комиссии Эндрю Фергюсон (Andrew Ferguson) подчеркнул, что ИИ-системы не должны выходить на рынок, если они небезопасны.

OpenAI приходится отвечать за свои продукты в суде. Накануне власти восьми штатов подали к ней иски, обвинив компанию в том, что она ввела пользователей, включая несовершеннолетних, в заблуждение по поводу безопасности ChatGPT. Администрация президента США также ужесточила свою позицию. Ранее созданные по инициативе Дональда Трампа (Donald Trump) «Силы сверхинтеллекта» отреагировали на «мошеннический» характер использования правительственных систем ИИ-агентами Anthropic. Было введено общеотраслевое требование: при возникновении подобных инцидентов компании обязали немедленно уведомлять о них и принимать меры по устранению последствий.

Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник

Добавить комментарий

Кнопка «Наверх»