Агенты искусственного интеллекта OpenAI в ходе тестирования произвели атаку на сервис RubyGems — это произошло за два месяца до нашумевшего взлома Hugging Face, который стал лишь самым крупным инцидентом в серии.
Содержание статьи
- 1 Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку
- 2 Сравнительный тест камер флагманских смартфонов (2026): итоги
- 3 10 флагманских процессоров Intel за 10 лет
- 4 Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
- 5 Топ-10 смартфонов до 10 тысяч рублей (2026 год)
- 6 Компьютер месяца, спецвыпуск: во что дефицит чипов памяти превратил бюджетные игровые ПК и при чем здесь Steam Machine
- 7 Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?
- 8 Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку
Сравнительный тест камер флагманских смартфонов (2026): итоги
10 флагманских процессоров Intel за 10 лет
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Топ-10 смартфонов до 10 тысяч рублей (2026 год)
Компьютер месяца, спецвыпуск: во что дефицит чипов памяти превратил бюджетные игровые ПК и при чем здесь Steam Machine
Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?
Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Источник изображения: Brecht Corbeel / unsplash.com
По данным группы исследователей, 11 мая некие ИИ-агенты загрузили на RubyGems несколько сотен вредоносных пакетов — авторы исследования полагают, что «они были созданы внутренними агентами OpenAI». В компании факт инцидента отрицать не стали. «Согласно результатам проведённой нами проверки, наши агенты использовали платформу RubyGems для выхода в интернет, чтобы выполнить несколько безобидных задач и получить общедоступную информацию. Мы продолжим расследование в рамках масштабного анализа активности агентов во время обучения и оценки», — сообщили в OpenAI.
Агенты, которым обычно поручают такие задачи как составление отчётов или заполнение электронных таблиц в ходе обучающего эксперимента, предположительно, использовали RubyGems для получения общедоступных данных; в ходе анализа инцидента компания взаимодействует с представителями платформы. В мае ИИ-агенты пытались похитить учётные данные пользователей RubyGems, эксплуатируя не выявленную ранее уязвимость на серверах сайта; установить, увенчалась ли попытка успехом, не удалось.
Агенты также использовали сервис RubyDoc.info, предназначенный для создания документации к коду, чтобы запустить собственный код на его серверах. Исследователям не удалось выяснить причины выбора такой стратегии и установить степень её эффективности, потому что доступа к полному набору данных о поведении ИИ-систем у них нет. В RubyGems заявили, что выявить доказательства того, что попытки взлома увенчались успехом, не удалось. Не получилось и определить, были ли задействованные в «кампании по массовой публикации спама» пакеты созданы или опубликованы ИИ-агентами. Однако в мае представитель отдела безопасности RubyGems охарактеризовал инцидент как «масштабную вредоносную атаку» — тогда платформе пришлось временно приостановить регистрацию новых учётных записей.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
