Передовая модель искусственного интеллекта Anthropic Mythos за несколько часов во время контролируемой оценки безопасности смогла взломать «почти все» секретные системы Агентства национальной безопасности (АНБ) — одного из самых высокопоставленных и влиятельных разведывательных агентств в США, пишет The Economist.
Содержание статьи
- 1 Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены
- 2 72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию
- 3 Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем
- 4 Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей
- 5 Ryzen и DDR5-6000 на чипах Samsung — G.Skill даёт добро
- 6 Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»
Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены
72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию
Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем
Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей
Ryzen и DDR5-6000 на чипах Samsung — G.Skill даёт добро
Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»
Источник изображения: anthropic.com
Об инциденте рассказал сенатор Марк Уорнер (Mark Warner), зампредседателя Комитета по разведке в верхней палате конгресса, со ссылкой на главу АНБ и Киберкомандования США генерала Джошуа Радда (Joshua Rudd). Первоначально сообщение об этом было опубликовано 14 июня, и впоследствии распространилось в соцсетях с утверждением, что Anthropic «взломала АНБ». В действительности это было санкционированное внутреннее тестирование, в ходе которого Mythos использовалась совместно с другими средствами в условиях, максимально приближённых к реальным.
История проливает свет на распоряжение американских властей от 12 июня, согласно которому Anthropic надлежало заблокировать доступ к моделям Fable 5 и Mythos 5 для всех лиц, не являющихся гражданами США, в том числе для сотрудников самой компании — та вообще изъяла их из общего доступа. Испытания проводились накануне, 11 июня; это, по утверждениям Anthropic, был «узкий взлом». Модель просто проанализировала базу кода с целью исправить выявленные проблемы, в результате чего были обнаружены несколько незначительных, уже известных ошибок — полноценного наступательного вторжения не было. Сейчас Anthropic, по её словам, пытается восстановить доступ к системе и совместно с чиновниками Белого дома готовит систему совместного управления рисками.
Инцидент разделил общественность на три лагеря. Первые говорят о неспособности правительства нанимать достаточно квалифицированных специалистов в области кибербезопасности. Вторые считают заявления Anthropic преувеличенной сенсацией или маркетинговым шагом, указывая на отсутствие подробностей о предполагаемом взломе и ставя под сомнение техническую компетентность главы АНБ. Третьи напоминают, что возможности моделей ИИ резко выросли — сроки развёртывания атак сократились с нескольких часов до нескольких минут, и даже в поддерживаемых проектах с открытым исходным кодом обнаруживается большое число уязвимостей.
Anthropic тем временем продолжает тесно сотрудничать с АНБ в рамках программы Project Glasswing. Несколько сотрудников компании работают прямо в ведомстве, адаптируя и настраивая Mythos для конкретных задач.
