Бывший специалист OpenAI предупредил о системных проблемах в ИИ-индустрии
David Robinson, ранее готовивший отчёты по безопасности для крупных релизов OpenAI, ушёл из компании и публично предупредил о системных проблемах в индустрии
Один основной источник · Как мы проверяем новости
Что произошло
David Robinson ушёл из OpenAI, где готовил отчёты по безопасности для крупных релизов моделей. После ухода он изложил свои взгляды в редакционной статье The Atlantic.
Robinson присоединился к числу исследователей и специалистов по безопасности, покинувших крупные ИИ-компании. В материале также упоминаются Jacob Coxon, Robert O’Callahan, Bilal Chughtai, Josh Engels и Joe Benton.
Что заявил Robinson
По словам Robinson, культура ИИ-индустрии глубоко неблагополучна. Он считает, что компании действуют в режиме «чрезмерной уверенности» и постоянных спринтов, стремясь создавать всё более крупные и совершенные модели и недооценивая потенциальные проблемы.
Robinson полагает, что передовые лаборатории должны работать с несколькими уровнями резервирования и тщательно планировать процессы. Такой подход, по его мнению, должен снизить риск катастрофических последствий из-за неизбежных человеческих ошибок.
Почему это важно
Публичные предупреждения бывших сотрудников не следует автоматически игнорировать на фоне растущего числа специалистов, покидающих ИИ-компании. Robinson подчёркивает, что одних новых правил и регулирования для обучения моделей может быть недостаточно.
В статье также напоминается, что Jacob Coxon после ухода из Anthropic публично заявил: ИИ может убить нас всех к концу десятилетия.
Источники
Один основной источник. Как мы проверяем новости
