Исследователи Google и Google DeepMind объявили о создании DeepMind Institute — новая площадка призвана активизировать обсуждение вопросов, связанных с сильным искусственным интеллектом (AGI).
Содержание статьи
- 1 Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
- 2 Компьютер месяца — сентябрь 2026 года
- 3 В помощь студенту: обзор российских ИИ-сервисов для учёбы и закрепления знаний
- 4 Мастерская локальных ИИ: салат картофельный с Qwen3.8
- 5 10 флагманских процессоров Intel за 10 лет
- 6 Обзор смартфона Google Pixel 11 Pro: когда надо выпустить хоть что-то
- 7 Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?
Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
Компьютер месяца — сентябрь 2026 года
В помощь студенту: обзор российских ИИ-сервисов для учёбы и закрепления знаний
Мастерская локальных ИИ: салат картофельный с Qwen3.8
10 флагманских процессоров Intel за 10 лет
Обзор смартфона Google Pixel 11 Pro: когда надо выпустить хоть что-то
Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?
Источник изображения: institute.deepmind.com
В число директоров организации вошли соучредитель DeepMind Шейн Легг (Shane Legg), топ-менеджер Google Джеймс Маника (James Manyika) и председатель совета директоров Google DeepMind Демис Хассабис (Demis Hassabis); господин Легг взял на себя функции выпускающего редактора (managing editor). Институт призван выявить различия в позициях Google, Google DeepMind и мирового сообщества по вопросам AGI. «Мнения не всегда будут едиными, и они, вероятно, будут меняться по мере возникновения новых данных и информации в этой стремительно развивающейся области», — говорится в заявлении организации.
Первая подборка из четырёх работ охватывает широкий круг вопросов: экономическая политика при управлении потрясениями, которые может вызвать AGI; сохранение возможности отслеживать ход рассуждений модели в понятном для человека виде; принципы процветания человечества; и методология оценки передовых ИИ-моделей.
Исследователи в области безопасности из DeepMind в одной из работ утверждают, что сужение окна прозрачности, то есть способности видеть и проверять пошаговый ход рассуждений модели, не является неизбежным. С новыми архитектурами мониторинг наиболее мощных моделей усложняется, и авторы призывают разработчиков и регуляторов открыто решать проблемы, связанные с компромиссами в области безопасности. Например, ограничить «непрозрачную последовательную глубину», то есть объём последовательных вычислений, которые модель выполняет, не формируя доступной схемы рассуждений; или потребовать, чтобы разработчики доказывали, что менее прозрачные системы остаются доступными для контроля.
В другой работе господин Хассабис предлагает создать орган стандартизации передовых систем ИИ для оценки моделей, чтобы разработчики добровольно представляли свои системы за 30 дней до выпуска. Когда система оценки докажет свою эффективность, предварительное тестирование можно будет сделать обязательным условием для развёртывания передовых моделей в США. На первых порах критерии оценки будут вырабатываться совместно с ИИ-лабораториями, а со временем учреждение введёт свои независимые и закрытые тесты — это не даст лабораториям возможности подстраивать ответы моделей под известные параметры проверки. Если ситуация станет серьёзной, механизм можно ужесточить вплоть до замедления темпов разработки передовых систем ИИ.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
