Anthropic предупредила о риске автономного распространения ИИ-червей
Anthropic считает, что небольшие ИИ-модели могут в течение нескольких месяцев научиться самостоятельно распространяться по уязвимым устройствам интернета вещей
Один основной источник · Как мы проверяем новости
Что произошло
Anthropic предупредила, что самореплицирующиеся автономные ИИ-системы могут начать распространяться по пользовательским устройствам без участия человека, подобно компьютерным вирусам.
Исследователи William Zhou и Daniel Freeman из Frontier Red Team компании Anthropic указали, что потенциальными целями могут стать Android TV, умная бытовая техника, камеры и другие подключенные к интернету устройства со слабой защитой.
Детали оценки
По оценке авторов, небольшим ИИ-моделям могут потребоваться месяцы, чтобы получить возможность самостоятельно распространяться на коммерческих устройствах интернета вещей. Такая угроза будет особенно сложной из-за отсутствия единого центра, который можно было бы отключить.
Предупреждение связано с опасениями по поводу роста математических возможностей ИИ-моделей и их потенциальной способности в будущем взламывать криптографические подписи, используемые в криптовалютных кошельках.
Почему это важно
Почти треть общего предложения Bitcoin, или 6,26 млн BTC, находится на адресах, которые могут быть уязвимы для ИИ-моделей или квантовых компьютеров. По словам сооснователя Glassnode Rafael Schultze-Kraft, 4,33 млн BTC оказались под угрозой из-за повторного использования адресов; перенос этих средств на новые кошельки устранил бы такую уязвимость.
Исследователь Ethereum Justin Drake заявил, что быстрое развитие ИИ может привести к взлому алгоритма ECDSA, защищающего криптовалютные кошельки, раньше ожидаемого срока. Управляющий партнер Dragonfly Haseeb Qureshi назвал такие предупреждения «криптографическим алармизмом» и заявил, что перевод токенов на новые адреса не является полноценным решением проблемы.
Источники
Один основной источник. Как мы проверяем новости
Связанные материалы
Проект AnyPS5 пытается запускать игры с PS5 на ПК — GTA 6 может появиться с задержкой
Nvidia смягчила визуальные изменения DLSS 5 перед запуском в Hogwarts Legacy
