Глава Anthropic призывал замедлить развитие ИИ, но сам не собирается сбавлять обороты

Глава Anthropic ранее призвал участников индустрии искусственного интеллекта замедлить разработку технологий, чтобы снизить вероятность непредсказуемых последствий. Однако спустя шесть недель после того, как руководители OpenAI и SpaceX публично поддержали эту инициативу, гонка продолжилась с новой силой.

Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered

Топ-10 смартфонов до 20 тысяч рублей (2026 год)

Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Мастерская локальных ИИ: салат картофельный с Qwen3.8

Гид по выбору складного смартфона в 2026 году

Сравнительный тест камер флагманских смартфонов (2026): итоги

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти

Источник изображения: Anthropic

За это время Anthropic, OpenAI, Google и SpaceX представили новые ИИ-модели. Сама Anthropic подала документы для проведения IPO, которое может стать крупнейшим в истории. В заявке компания сообщила о намерении потратить сотни миллиардов долларов на развитие чат-бота Claude и вычислительной инфраструктуры, вызвав тем самым вопросы у сторонников безопасного развития ИИ, которые призывают оценивать реальные действия компаний, а не публичные заявления их руководителей.

Опасения усилились после серии инцидентов. За последний месяц кибератаки, проведённые с помощью искусственного интеллекта, затронули компании в разных странах. Кроме того, OpenAI сообщила, что один из её ИИ-агентов пытался обойти систему мониторинга, а сенатор Элизабет Уоррен (Elizabeth Warren) потребовала от Дарио Амодеи (Dario Amodei) объяснить, как предупреждения о катастрофических рисках ИИ согласуются с планами компании выйти на биржу.

Сама Anthropic предпринимает некоторые шаги для повышения безопасности технологий. Компания временно приостановила отдельные работы после непредсказуемого поведения моделей и начала приглашать независимых исследователей в свои офисы для наблюдения за их разработкой.

Однако отношения Anthropic с сообществом специалистов по безопасности ИИ постепенно стали ухудшаться. Руководитель Machine Intelligence Research Institute Мало Бургон (Malo Bourgon) отметил, что если компания позиционирует себя как организацию, несущую повышенную ответственность за последствия развития ИИ, то эксперты ожидают от неё и более высоких стандартов в этом отношении.

Дополнительную критику вызвал подготовленный лоббистами Anthropic законопроект о регулировании искусственного интеллекта. Представители профильных организаций посчитали, что он может ограничить действие уже существующих законов отдельных штатов и не соответствует публичным заявлениям руководства компании о необходимости контроля над ИИ.

В ответ на критику Амодеи заявил, что стратегия Anthropic заключается в «гонке за повышение стандартов» и намерении показать, как можно развивать ИИ ответственно, побуждая конкурентов следовать её примеру. Он также напомнил о решениях, которые обошлись компании слишком дорого, включая конфликт с Министерством обороны США из-за отказа разрешить использование её технологий для внутренней слежки и полностью автономного оружия. При этом независимые тесты показывают, что современные чат-боты реже поддерживают опасные заблуждения пользователей и чаще препятствуют потенциально вредному поведению.

Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник