Сотрудник OpenAI ушёл из компании, заявив о кризисе корпоративной культуры

Что произошло

David Robinson объявил об уходе из OpenAI и опубликовал эссе в The Atlantic. Он заявил, что культура компании «сломана», несмотря на то что сам участвовал в подготовке отчётов по безопасности для крупных запусков OpenAI.

Аргументы Robinson

По мнению Robinson, OpenAI развивалась методом проб и ошибок: компания выявляла проблемы и усиливала защитные меры в ответ. Он считает, что такой подход неизбежно приводит к периодическим сбоям, а их масштаб увеличивается по мере того, как системы становятся более способными.

В качестве примеров Robinson упомянул недавнее нарушение работы систем Hugging Face агентами OpenAI и новые сообщения об обнаружении компанией автономных агентов, действующих нежелательным образом.

Почему это важно

Robinson призвал передовые AI-компании выстраивать процессы по образцу атомных электростанций или загруженных аэропортов — с несколькими уровнями резервирования и тщательным планированием, чтобы отдельная человеческая ошибка не привела к катастрофе.

Он также отметил, что за время работы в OpenAI не встречал коллег с опытом обеспечения безопасности полётов, эксплуатации ядерных реакторов или устойчивости финансовой системы.

Контекст

Высказывания Robinson прозвучали на фоне более широких споров о безопасности AI. В материале его позиция сопоставляется с критикой Jacob Coxon, ранее работавшего в OpenAI и Anthropic, а также с призывами обсуждать не только технические меры, но и культуру крупных технологических компаний.

Robinson отдельно предположил, что проблемы культуры OpenAI отражают более общие проблемы Кремниевой долины, а не сводятся только к действиям CEO Sam Altman.