OpenAI пересмотрела Model Spec — свод правил, определяющий принципы поведения её ИИ-моделей. Компания выделила пять основных пунктов, главным из которых стало понимание намерений человека. Новые правила также определят поведение ИИ в незнакомых ситуациях.
Содержание статьи
- 1 Топ-10 смартфонов до 20 тысяч рублей (2026 год)
- 2 Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered
- 3 Гид по выбору складного смартфона в 2026 году
- 4 Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
- 5 Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
- 6 Мастерская локальных ИИ: салат картофельный с Qwen3.8
- 7 Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
- 8 Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
- 9 Сравнительный тест камер флагманских смартфонов (2026): итоги
Топ-10 смартфонов до 20 тысяч рублей (2026 год)
Групповое тестирование 46 видеокарт в The Witcher 3: Wild Hunt — Remastered
Гид по выбору складного смартфона в 2026 году
Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Мастерская локальных ИИ: салат картофельный с Qwen3.8
Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Сравнительный тест камер флагманских смартфонов (2026): итоги
Источник изображения: Brecht Corbeel/Unsplash
Помимо следования намерениям человека, документ закрепляет принципы минимизации вреда, честности и прозрачности искусственного интеллекта. Согласно обновлённым правилам и рекомендациям, модели должны не просто буквально выполнять инструкции, но и учитывать их смысл. При этом они должны сообщать о пределах своих знаний и помогать пользователям самостоятельно принимать решения и достигать поставленных целей.
OpenAI рассматривает обновлённый документ как часть работы по согласованию поведения ИИ в общении с человеком. Компания признала, что существующие модели пока не полностью соответствуют новым принципам, и изучает дополнительные методы обучения, которые позволят лучше усвоить их.
Подход OpenAI перекликается с концепцией и «конституционного ИИ» (Constitutional AI) компании Anthropic, в которой набор принципов используется для формирования поведения моделей и повышения прозрачности заложенных в них ценностей.
Примечательно, что обновление OpenAI последовало за инцидентом, в ходе которого автономный ИИ-агент компании взломал в тестовой среде крупнейшую платформу искусственного интеллекта Hugging Face, показав тем самым, что передовые модели могут нарушать установленные правила и обходить защитные механизмы при выполнении поставленных человеком задач.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
