OpenAI объяснила увольнение трех исследователей нарушением правил о конфиденциальной информации

Что произошло

OpenAI подтвердила увольнение исследователей безопасности ИИ Jasmine Wang, Tomek Korbak и Mikita Balesni. По версии компании, внутреннее расследование выявило серьезное нарушение доверия и несоблюдение правил обращения с конфиденциальной информацией.

OpenAI заявила, что причина увольнения не связана с тем, что сотрудники высказывались о компании и рисках для безопасности ИИ.

Позиции сторон

Заявление OpenAI стало ответом на открытое письмо исследователей, опубликованное в четверг. В письме они призвали компанию сделать решение об увольнении более прозрачным.

Исследователи заявили, что действовали в соответствии с миссией OpenAI и рабочими нормами того времени. Компания ответила, что расследование выявило нарушения, выходящие за рамки описанного в письме, но не раскрыла подробности.

Контекст

Безопасность передовых ИИ-систем вызывает все больше обеспокоенности у сотрудников технологических компаний после серии заметных инцидентов в этом году, включая взлом Hugging Face, который в материале связывается с OpenAI.

Многие сотрудники призывают компании замедлить разработку и усилить меры защиты от возможных последствий создания самообучающихся систем.