Некоммерческие организации требуют заморозить развитие передовых систем ИИ

Что произошло

Четыре некоммерческие организации подали 63-страничную жалобу в суд Сан-Франциско в четверг. Они просят судью Калифорнии остановить компании, разрабатывающие передовые системы ИИ, до того, как их технологии причинят серьезный вред.

Истцы требуют немедленного судебного запрета на разработку или развертывание систем, более способных, чем самые продвинутые модели компаний на 12 ноября 2026 года.

Чего добиваются истцы

Требование не обязательно означает остановку ChatGPT, Claude, Gemini и других действующих продуктов. На практике оно должно сделать текущий уровень технологий предельным и не позволить компаниям выпускать более мощные версии.

Жалоба также призывает запретить компаниям использовать ИИ для самостоятельного проведения или управления исследованиями по созданию более совершенных моделей. Такой процесс связан с понятием рекурсивного самосовершенствования.

Истцы опасаются, что подобные системы в будущем смогут улучшаться быстрее, чем люди успеют их понять или взять под контроль.

Почему это важно

Некоммерческие организации считают, что законы Калифорнии уже позволяют предотвращать разработку продуктов, угрожающих обществу, еще до наступления серьезного ущерба.

Иск основан на законе Калифорнии о недобросовестной конкуренции, который запрещает незаконные или несправедливые деловые практики. Один из аргументов истцов заключается в том, что создание все более мощных систем ИИ представляет собой общественную опасность, затрагивающую здоровье, безопасность или имущество широкой группы людей.

Истцы утверждают, что компании сознательно создают системы, которые могут облегчить кибератаки, помочь в разработке биологического оружия или со временем выйти из-под контроля людей.

Правовая аналогия

В качестве примера истцы приводят фабрику, выбрасывающую опасные химикаты в жилой район: такая компания может столкнуться с судебными мерами еще до того, как кто-либо получит смертельную травму. Организации хотят применить аналогичный подход к разработке ИИ.