Box встроит Nemotron от Nvidia в систему поиска контента для AI-агентов

Что произошло

На конференции разработчиков Box показала новую функцию Box Content Retrieval. Она встроит систему эмбеддингов Nvidia Nemotron в основной продукт компании и будет использовать метаданные, созданные Nemotron, для поиска информации.

Box заявляет, что технология сделает запросы быстрее, точнее и дешевле. По словам вице-президента Nvidia по программному обеспечению для генеративного AI Kari Briski, ожидается ускорение ответов в четыре раза, сокращение числа ошибок на 20% и снижение использования токенов на 90%.

Как это работает

Вместо обработки всего документа AI-агент сможет получить наиболее релевантные для запроса фрагменты. Nemotron Embed предлагает модели с открытыми весами для улучшения автоматизированных систем поиска.

Эмбеддинги Nemotron анализируют лежащие в основе текста понятия, поэтому система может находить связанные юридические темы даже при использовании другой формулировки или языка. Box приводит в качестве примера юристов, которым будет проще искать нужные положения договоров и прецеденты.

Почему это важно

По словам Box, функция особенно полезна в связке с активными AI-агентами, которым необходимо быстро извлекать данные из корпоративных документов.

Хотя модели Nemotron доступны бесплатно, воспроизвести всю систему с нуля будет сложно: она тесно связана с метаданными и настройками доступа Box. Aaron Levie заявил, что, вероятно, в одном простом API объединены примерно пять разных технологий.

Контекст

Nemotron Embed входит в проект Nvidia по разработке моделей с открытым исходным кодом. Недавний выпуск Nemotron в июле занял первое место в тесте RTEB, который оценивает качество поиска.