Трое бывших исследователей OpenAI рассказали, что их на прошлой неделе внезапно уволили за общение со сторонними организациями, занимающимися безопасностью ИИ. Они предупредили, что такие решения могут заставить сотрудников бояться открыто обсуждать риски искусственного интеллекта. Сама же OpenAI подтвердила своё решение, но объяснила его по-другому.
Содержание статьи
- 1 Мастерская локальных ИИ: салат картофельный с Qwen3.8
- 2 Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
- 3 Сравнительный тест камер флагманских смартфонов (2026): итоги
- 4 Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
- 5 Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
- 6 Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
Мастерская локальных ИИ: салат картофельный с Qwen3.8
Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700
Сравнительный тест камер флагманских смартфонов (2026): итоги
Компьютер месяца, спецвыпуск: выбираем мини-ПК для работы и развлечений в эпоху дефицита чипов памяти
Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)
Обзор HONOR Pad X9b Max: универсальный большой планшет с антибликовым экраном
Источник изображений: Mariia Berezovsky / unsplash.com
В письме под заголовком «OpenAI не сможет обеспечить безопасность искусственного интеллекта в одиночку» бывшие сотрудники лаборатории отметили, что это «необычная компания», и ключевой составляющей работы в ней является взаимодействие со сторонними организациями для решения проблем безопасности, причём её сотрудники должны делать это «свободно и без страха».
Адресованное комитетам OpenAI по безопасности письмо опубликовал Микита Балесный (Mikita Balesni) — один из уволенных сотрудников, который занимался вопросами согласования целей ИИ. Документ подписали также уволенные Томек Корбак (Tomek Korbak) и Жасмин Ван (Jasmine Wang), которые работали в сфере безопасности.
На своих личных страницах в соцсетях они написали, что причины увольнения им объяснили лишь устно, а их действия не выходили за рамки служебных обязанностей. «Причины нашего увольнения просто не складываются в логичную картину», — написала Ван. Балесному сообщили, сто компания больше не доверяет ему, потому что он «слишком много общался с занимающимися вопросами безопасности сторонними организациями». «Я никогда не разглашал информацию, составляющую интеллектуальную собственность компании. Моя работа согласовывалась с непосредственным руководством, руководителями исследовательских направлений и советом директоров», — написал он.
Корбаку в устной форме объяснили, что его увольнение связано с «характером общения с METR» — сторонней некоммерческой исследовательской организацией, которая оценивает модели ИИ и связанные с безопасностью риски. «Поясню: общение с METR входило в мои служебные обязанности», — добавил он. Бывшие коллеги исследователей теперь будут «бояться высказываться и действовать в соответствии с тем, что ещё на прошлой неделе считалось неотъемлемой частью работы в OpenAI. <..> Подобные увольнения — внезапные и проведённые в такой резкой форме — подрывают открытую культуру, которую OpenAI ценила в прошлом», — говорится в письме.
Исследователи дали OpenAI три совета: привлекать к работе в организации сторонних аудиторов по безопасности, обеспечить возможность мониторинга передовых моделей ИИ и поддерживать «культуру открытого и прозрачного диалога между исследователями в сфере безопасности и остальными участниками экосистемы безопасности».
В разосланной сотрудникам служебной записке один из руководителей исследовательского направления OpenAI написал, что полностью поддерживает эти рекомендации. «Мы высоко ценили их вклад в обеспечение безопасности ИИ, а также их готовность открыто высказывать своё мнение и подвергать сомнению существующие идеи. Мы поддерживали их инициативы и оказывали им огромное доверие. Хочу подчеркнуть: причиной этих решений стало вовсе не то, что они поднимали вопросы безопасности или открыто высказывались. Мы всегда поощряли и будем поощрять подобную активность. Мы не увольняем сотрудников за то, что они указывают на проблемы», — говорится в документе.
Тем не менее, решение уволить этих троих сотрудников было принято «после тщательного расследования, выявившего нарушение ими чётких правил обращения с конфиденциальной информацией», подчеркнула компания в соцсети X. OpenAI разделяет изложенный в письме принцип необходимости «обеспечить возможность контроля передовых моделей», а также изложенные в письме идеи, касающиеся «сохранения возможности мониторинга передовых моделей», и компания продолжает вкладывать значительные ресурсы в эту сферу.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
