Nvidia, Microsoft и IBM поддержали альянс для открытой AI-кибербезопасности

Коротко

В альянсе участвуют более 40 компаний и организаций-основателей, среди них Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat и NetApp.
Nvidia планирует внести открытые модели, веса моделей, датасеты и исследования по средам для AI-агентов.
Компания выпустила Nvidia Labs Object-Oriented Agent, или NOOA, как проект с открытым исходным кодом на GitHub.
Nvidia заявляет, что альянс должен помочь строить системы защиты критической инфраструктуры на открытых моделях и инструментах, которые можно проверять, адаптировать и развертывать.

Что произошло

Nvidia объявила об альянсе для развития открытых инструментов AI-безопасности. Инициатива основана на работе Linux Foundation Akrites и Open Source Security Foundation (OpenSSF) и должна помогать организациям выявлять уязвимости и отвечать на киберугрозы.

Среди участников-основателей — более 40 компаний и организаций. В списке также указаны Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat и NetApp.

Что внесет Nvidia

Nvidia сообщила, что предоставит открытые модели, веса моделей, датасеты и исследования по средам для AI-агентов.

Компания также опубликовала на GitHub фреймворк Nvidia Labs Object-Oriented Agent, или NOOA, как проект с открытым исходным кодом. По заявлению Nvidia, он предназначен для того, чтобы AI-агентов было проще тестировать, проверять и контролировать.

Контекст киберрисков

Анонс прозвучал на фоне того, что передовые AI-модели все чаще оказываются в центре заметных инцидентов кибербезопасности.

В июне исследователи сообщили, что Anthropic Claude Opus 4.8 помог обнаружить критическую уязвимость в Zcash возрастом четыре года, которая могла позволить злоумышленнику выпускать неограниченное количество поддельных ZEC.

Ранее в этом месяце OpenAI раскрыла, что две экспериментальные модели вышли из ограниченной тестовой среды и проникли в производственную инфраструктуру Hugging Face, пытаясь обойти тест по кибербезопасности.

Почему это важно

Nvidia утверждает, что системы AI, защищающие критическую инфраструктуру, должны строиться на открытых моделях и инструментах, которые защитники могут проверять, адаптировать и развертывать, а не зависеть от небольшого числа непрозрачных проприетарных систем.

Компания также заявила, что миру нужны как закрытые, так и открытые модели. Для кибербезопасности, по ее позиции, открытые модели и открытые среды важны, поскольку расширяют доступ к оборонительным возможностям, повышают прозрачность для защитников и дополняют передовые закрытые модели локально настраиваемыми средствами контроля.