OpenAI поддерживает платформу Nvidia для защиты ИИ-агентов, не став ее публичным участником

Что произошло

Nvidia объявила о создании консорциума более чем из 100 компаний для решения проблемы ИИ-агентов, которые могут действовать вне заданных ограничений. Среди заметных участников рынка OpenAI не оказалась в числе публичных сторонников инициативы.

Amazon, Google и Apple также не присоединились к консорциуму. Отсутствие OpenAI особенно выделяется на фоне поддержки проекта со стороны Anthropic.

Детали сотрудничества

Несмотря на отсутствие публичного обязательства, представитель OpenAI сообщил TechCrunch, что компания поддерживает работу Nvidia. OpenAI сотрудничает с Nvidia в области безопасности ИИ-агентов, в том числе над OpenShell.

OpenShell — программное обеспечение с открытым исходным кодом, которое создает изолированную среду и предназначено для предотвращения выхода ИИ-агентов за ее пределы.

Почему это важно

Nvidia продвигает Open Agent Safety Platform как способ распространить собственные, преимущественно открытые технологии защиты ИИ-агентов по всей экосистеме ИИ. Инициатива стала ответом на продолжающиеся инциденты с ИИ-агентами, о которых сообщали Anthropic и OpenAI.

Генеральный директор Nvidia Дженсен Хуанг называл проблемы с неконтролируемыми ИИ-агентами обычной инженерной задачей, которую можно решать так же, как и другие технологические проблемы.

Контекст

По оценке основателя и генерального директора Hugging Face Клема Деланга, OpenAI может особенно выиграть от этой технологии. Ранее в этом месяце Nvidia приобрела его компанию за $12,9 млрд.