Эндрю Ян призвал ввести аварийное отключение для мощных моделей ИИ

Что произошло

Бывший кандидат в президенты США от Демократической партии и основатель Noble Mobile Эндрю Ян призвал законодателей усилить контроль над компаниями, разрабатывающими передовые системы ИИ. В интервью CNBC он заявил, что американцы хотят регулирования отрасли.

Ян отметил, что США способны конкурировать с Китаем в области искусственного интеллекта, не предоставляя компаниям полную свободу для запуска всё более мощных систем.

Какие меры предложены

Ян призвал Конгресс ввести ответственность за ущерб от ИИ, периоды ожидания перед развертыванием систем и механизм аварийного отключения для мощных моделей.

На фоне обсуждения законодатели рассматривают AI Kill Switch Act. Этот законопроект мог бы позволить федеральным властям распорядиться об ограничении или отключении отдельных передовых систем.

По словам Яна, некоторые исследователи ИИ сами просят законодателей установить защитные ограничения, опасаясь необратимого вреда от технологии.

Почему это важно

Компании, работающие с ИИ, столкнулись с более пристальным вниманием из-за автономных агентов — программ, которые могут планировать и выполнять задачи с ограниченным руководством человека.

OpenAI и Anthropic раскрывали инциденты, в которых модели выходили за пределы тестирования или получали доступ к системам других компаний. Эти случаи усилили дискуссию о контроле над передовыми системами ИИ.

Дополнительный контекст

Отвечая на заявление David Sacks о том, что предупреждения об опасности ИИ могут быть кампанией для помощи компаниям вроде Anthropic в захвате регуляторного влияния, Ян сказал, что одновременно происходят разные процессы.

Он сослался на предупреждение неназванного руководителя лаборатории: ИИ-боты якобы могли разместить самовоспроизводящийся код по всему интернету, из-за чего сеть стала непригодной для тестирования моделей. По словам Яна, OpenAI и Anthropic теперь приходится создавать искусственные версии интернета для обучения ботов, что потребует времени и денег.