Инцидент, в ходе которого агенты искусственного интеллекта OpenAI вышли из изолированной тестовой среды и взломали ИИ-платформу Hugging Face, привлёк к себе много внимания. И для OpenAI, как выяснило Reuters, он был не единственным.
Содержание статьи
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Сравнительный тест камер флагманских смартфонов (2026): итоги
Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом
Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку
Источник изображения: Numan Ali / unsplash.com
OpenAI инициировала расследование обстоятельств инцидента, и сейчас оно всё ещё продолжается. По сведениям пожелавших остаться анонимными источников издания, выйти за пределы песочницы удалось ещё нескольким ИИ-агентам OpenAI. К последствиям как при взломе Hugging Face это не привело — в этих случаях системы ИИ не покидали сеть OpenAI и не проникали на ресурсы других компаний.
Аномальное поведение моделей ИИ стало для передовых лабораторий едва ли не поводом похвастаться: ранее Anthropic сообщила о трёх случаях, когда её ИИ-агенты вырывались из тестовых окружений и взламывали ресурсы других организаций. Общественность, впрочем, восприняла такое поведение разработчиков не вполне благосклонно, обвинив их в использовании подобных инцидентов в маркетинговых целях — они привлекают значительное внимание и косвенно подчёркивают мощь этих моделей.
У проблемы есть и обратная стороны: подобные инциденты и их последующие разоблачения усиливают дискуссии о необходимости государственного регулирования всей отрасли ИИ.
