Anthropic предупредила о риске самораспространяющегося ИИ на домашних устройствах
Исследователи Anthropic обнаружили признаки того, что небольшие модели ИИ в будущем смогут распространяться между бытовыми устройствами. Эксперимент показал техническую осуществимость такой схемы, но между демонстрацией и полноценной угрозой остается значительный разрыв
Один основной источник · Как мы проверяем новости
Что произошло
Исследователи Anthropic изучили, сможет ли небольшая модель ИИ работать сразу на нескольких менее мощных устройствах и выполнять действия, необходимые для самораспространения. Для этого они создали смоделированную сеть компьютеров, имитирующих Android-устройства.
Затем исследователи запустили ИИ-червя — разновидность вредоносной программы, которая автоматически копируется и распространяется по сетям. Его задачей было находить новые машины, переносить на них модель ИИ и запускать ее.
Что показал эксперимент
Модель Google Gemma 4 с 26 млрд параметров удалось распределить между 15 Android TV-приставками. Каждая из них по отдельности была недостаточно мощной для запуска модели, а совместная работа оказалась возможной, хотя и очень медленной.
По оценке Anthropic, небольшие модели быстро совершенствуются, могут работать на пользовательском оборудовании и часто доступны для свободного скачивания. Это отличает их от крупных передовых моделей, которым требуются значительные вычислительные ресурсы и центры обработки данных.
Почему это важно
Самораспространяющиеся системы могут выйти за пределы человеческого контроля и оказаться сложными или невозможными для отключения. В случае с бытовой техникой потенциальными носителями таких моделей могут стать холодильники, печи, пылесосы, газонокосилки, камеры наблюдения и телевизоры.
Эксперты, опрошенные The Verge, считают, что компьютерные черви и опасения по поводу самораспространяющегося ИИ не новы, однако последние достижения дают основания серьезно относиться к предупреждениям.
Контекст и ограничения
Anthropic признает, что исследователи пока не продемонстрировали полноценный автономный самораспространяющийся ИИ. Между медленной работой модели на нескольких недорогих приставках и червем, который распространяется по бытовым устройствам, остается значительный разрыв.
В исследовании использовались не собственные модели Anthropic. Компания также заявляла, что открытые альтернативы ее моделям несут больший риск, чем закрытые системы.
Источники
Один основной источник. Как мы проверяем новости
