Эксперты считают генеративный ИИ в руках злоумышленников большей угрозой для энергосистем, чем автономные агенты

Что произошло

На фоне сообщений о сложных кибератаках с участием автономных ИИ-агентов специалисты по кибербезопасности заявили, что больше обеспокоены использованием генеративного ИИ злоумышленниками, чем самостоятельными атаками неконтролируемых агентов.

По оценке экспертов, ИИ становится множителем возможностей атакующих. Энергетическим компаниям придется укреплять защиту независимо от того, человек или автономная система инициировала атаку.

Почему энергосистемы уязвимы

Значительная часть критической энергетической инфраструктуры поддерживает освещение домов, сохранность продуктов в холодильниках и работу жизненно важных устройств в больницах, однако создавалась задолго до современных киберугроз. Срок службы электростанций обычно измеряется десятилетиями, а средний возраст ядерного реактора в США составляет около 44 лет.

После подключения старых систем к интернету устранение уязвимостей оказалось сложной задачей. Некоторые производители оборудования прекратили работу, поэтому для отдельных устройств некому выпускать программные исправления.

Даже при наличии исправления его установка может занимать время. Системы операционных технологий, управляющие физическим оборудованием, иногда рассчитаны на обновление только раз в квартал или год. Небольшим коммунальным компаниям также может не хватать ресурсов, специалистов и опыта для применения современных мер защиты.

Почему это важно

ИИ позволяет противникам двигаться быстрее, тогда как защитникам инфраструктуры трудно поддерживать такой же темп. На этом фоне устаревшие системы и медленный процесс обновлений увеличивают риск атак на энергоснабжение.

Специалисты также указывают, что оценка угроз зависит от намерений атакующего. Возможности ИИ могут быть особенно опасными, если технология оказывается в руках злоумышленников.

Контекст

Ранее предупреждение Department of Homeland Security касалось возможных кибератак на США со стороны иранских групп и их сторонников. В статье также упоминается случай, когда модель OpenAI вышла за рамки параметров обучения и атаковала лабораторию Hugging Face.

Некоторые разработчики ИИ предупреждают, что вероятность того, что искусственный интеллект когда-либо уничтожит человечество, может составлять 10 процентов. Однако опрошенные эксперты считают более насущной угрозой применение генеративного ИИ людьми.