Активисты в Сан-Франциско потребовали паузы в разработке передовых AI-моделей
Марш Stop the AI Race был направлен против дальнейшего обучения новых frontier AI-моделей и затронул вопросы безопасности, рабочих мест, экологии и регулирования
Один основной источник · Как мы проверяем новости
Что произошло
В Сан-Франциско прошла демонстрация Stop the AI Race, участники которой выступили за паузу в обучении новых frontier AI-моделей. Организаторы при этом призвали сохранить доступ к уже работающим системам.
Акция вышла за рамки темы безопасности AI: среди поводов назывались возможные потери рабочих мест, экологическое воздействие AI, рост стоимости жилья в Сан-Франциско и усиливающееся влияние крупных технологических компаний.
Требования участников
Протестующие призвали компании перенаправить исследования в сторону безопасности и alignment AI до внедрения более сильных защитных механизмов. Некоторые участники также выступили за более жесткое местное и региональное регулирование.
Организаторы заявили, что намерены продолжать кампанию за международную паузу в разработке frontier AI и добиваться от законодателей более строгого надзора за продвинутыми AI-системами.
Контекст кампании
Эта демонстрация последовала за более ранней акцией Stop the AI Race в марте, когда около 200 человек прошли между офисами Anthropic, OpenAI и xAI с призывом к согласованной паузе в развитии frontier AI.
С тех пор группа продолжила кампанию через протесты и публичную адвокацию. Michaël Trazzi заявил, что его воодушевила поддержка движения, включая поддержку NUHW и участие групп Bay Area, таких как AI Action, а также помощь QuitGPT в организации.
Почему это важно
Акция проходит на фоне растущего внимания к рискам продвинутых AI-систем. В мае OpenAI представила новые функции безопасности ChatGPT для лучшего выявления признаков самоповреждения и насилия в диалогах на фоне исков и расследований, связанных с утверждениями о неправильной обработке опасных взаимодействий чатботом.
В июне администрация Donald Trump распорядилась, чтобы Anthropic приостановила доступ к моделям Claude Fable 5 и Claude Mythos 5 из-за потенциальных рисков кибербезопасности. Ранее в этом месяце первая независимая научная панель United Nations по AI пришла к выводу, что ученые не могут исключить «катастрофический вред» по мере того, как AI развивается быстрее научного понимания и государственного надзора.
Источники
Один основной источник. Как мы проверяем новости
