AIUC привлекла $40 млн на проверку безопасности ИИ-агентов

Что произошло

Rune Kvist, один из первых сотрудников Anthropic, и Rajiv Dattani, бывший операционный директор исследовательской организации METR, запустили Artificial Intelligence Underwriting Company (AIUC). Стартап намерен помогать предприятиям и разработчикам ИИ-моделей и агентов оценивать риски безопасности.

AIUC объявила о привлечении $40 млн в раунде Series A под руководством Ribbit Capital. В сделке также участвовала First Harmonic. Ранее компания получила $15 млн в посевном раунде, доведя общий объем финансирования до $55 млн.

Как работает система

Компания создала сторонний уровень аудита и сертификации ИИ-агентов, ориентируясь на распространенный стандарт кибербезопасности SOC 2. Собственный стандарт AIUC получил название AIUC-1.

Для разработки стандарта AIUC собрала консорциум примерно из 250 руководителей в сфере безопасности и управления рисками — потенциальных покупателей ИИ-агентов.

Стартап проверяет агента примерно по 5 000 сценариям, включая попытки обхода ограничений, галлюцинации и утечки данных. Итогом становится отчет объемом около 100 страниц с оценкой безопасной и надежной работы системы. Тесты выполняют ИИ-агенты, данные анализирует искусственный интеллект, а финальный аудит проверяют люди.

Почему это важно

По словам Rune Kvist, по мере роста возможностей ИИ системы становится сложнее внедрять и контролировать. AIUC рассчитывает снизить риск того, что ИИ-агенты начнут действовать непредсказуемо внутри компаний.

Стартап называет среди своих клиентов Cursor, Lovable, Harvey и ElevenLabs. Его подход должен дать предприятиям дополнительный способ проверить, соответствует ли поведение агента заявленным требованиям безопасности.

Контекст

Rajiv Dattani был операционным директором METR в 2024–2025 годах и остается членом совета организации. METR проводит похожие проверки для разработчиков передовых ИИ-систем, однако ранее в основном оценивала способность агентов надежно выполнять задачи.