Эксперты призвали США и Китай не передавать ИИ контроль над ядерным оружием
Исследователи Brookings и Fudan University предложили Вашингтону и Пекину договориться о том, что решения об атаках на ядерные системы и применении ядерного оружия должны принимать только люди
Один основной источник · Как мы проверяем новости
Что произошло
В отчёте Brookings и Fudan University предложено, чтобы США и Китай договорились: решение о начале кибератаки на ядерные системы управления, контроля и связи друг друга, а также на критическую инфраструктуру должны принимать только люди, а не ИИ.
Исследователи назвали эту норму расширением уже применяемого к ядерному оружию принципа, согласно которому атаки со стратегическими последствиями должны отражать волю человека и предусматривать личную ответственность.
Почему это важно для ядерных систем
Сбой на любом этапе работы систем NC3 может нарушить связь, привести к ошибочной интерпретации атаки, спровоцировать первый удар или вызвать случайный либо несанкционированный запуск.
В военной сфере автоматизированные решения, принимаемые за миллисекунды, способны превратить ложное предупреждение или кибератаку в ядерный кризис.
Более широкий спор о военном ИИ
Призыв использовать ядерные гарантии для ИИ стал частью растущей дискуссии о замедлении развития технологий и сохранении человеческого контроля над всё более способными системами.
Авторы Brookings предлагают более узкое правило на фоне отсутствия обязательного соглашения о замедлении разработки ИИ: только люди должны иметь право санкционировать атаки на ядерные системы или применение ядерного оружия.
Инициативы технологической отрасли
Ранее Anthropic CEO Dario Amodei призвал разработчиков замедлить наращивание возможностей ИИ. Его поддержали OpenAI CEO Sam Altman и владелец xAI Elon Musk, а OpenAI обратилась к Конгрессу США с вопросом о том, могут ли компании координировать такое замедление без нарушения антимонопольного законодательства.
Исследователи подчеркнули, что регулирование военного ИИ нельзя откладывать, поскольку риски развиваются быстрее переговоров.
Источники
Один основной источник. Как мы проверяем новости
