Sam Altman предупредил о риске потери контроля над ИИ

Что произошло

В публикации в X руководитель компании, создавшей ChatGPT, заявил, что быстрое развитие ИИ может вывести будущее из-под контроля людей или сосредоточить слишком много власти у одного человека либо компании.

По словам Altman, ИИ должен служить людям, а методы согласования и безопасности должны развиваться быстрее возможностей моделей.

Какие меры предложил Altman

Для предотвращения этих угроз, считает Altman, нужен узкий баланс: чрезмерная власть может оказаться у отдельной страны или лаборатории. Американские компании, разрабатывающие ИИ, должны убедить общественность в ответственном подходе к созданию всё более мощных систем.

Altman отметил, что замедление темпов не означает остановку прогресса. При этом развитие, по его мнению, должно идти медленнее, чем могло бы, поскольку проверки безопасности и мониторинг требуют значительных затрат.

Он также призвал использовать новые инструменты для оценки безопасности прямо во время разработки и тестирования ИИ, а не только перед выпуском готовых моделей.

Почему это важно

Заявление Altman прозвучало на фоне усиливающихся споров о регулировании передового ИИ государствами. Руководитель OpenAI считает, что компании могут предпринимать меры до появления новых законов.

Он предложил компаниям обмениваться подходами и разрабатывать общие стандарты, чтобы не допустить преследования ИИ-системами целей, противоречащих интересам людей.