Salesforce представила модель рассуждений Koa на базе Nemotron

Что произошло

Salesforce представила Koa на своей технологической конференции Dreamforce. Это первая модель рассуждений компании, построенная на модели с открытыми весами Nemotron от Nvidia.

Salesforce и Nvidia совместно дообучили Koa для работы с задачами продаж, маркетинга и поддержки клиентов.

Как будет работать Koa

Koa станет альтернативой другим моделям, доступным в Agentforce — платформе, где клиенты Salesforce создают агентов для выполнения рутинных задач, например ответов на вопросы службы поддержки и планирования встреч.

До появления Koa сложные многоэтапные запросы из Agentforce направлялись через шлюз искусственного интеллекта к моделям Claude или ChatGPT. По замыслу Salesforce, новая модель должна лучше справляться с рабочими задачами клиентов и требовать меньше токенов.

Для дообучения Koa компании не использовали реальные данные клиентов Salesforce. Вместо этого они создали синтетические данные, имитирующие типичные сценарии, включая общение специалистов поддержки с недовольными клиентами и работу продавца над заключением сделки.

Почему это важно

Koa отражает расхождение между потребностями корпоративных клиентов и предложением разработчиков передовых моделей. Модель предназначена для специализированных рабочих сценариев и может стать альтернативой обращению к внешним поставщикам передовых моделей.

В Nvidia заявили, что архитектура Nemotron оптимизирует использование токенов при выводе. Среди характеристик, необходимых для эффективной работы, в компании назвали суверенный искусственный интеллект, время до первого токена и эффективное рассуждение.

Контекст

В Salesforce объяснили, что раньше компания создавала небольшие языковые модели для отдельных задач, но полагалась на поставщиков передовых моделей в вопросах рассуждений. Появление Nemotron позволило начать разработку собственной корпоративной модели рассуждений.

По словам Salesforce, Nemotron стал доступной предварительно обученной американской моделью с передовыми характеристиками и понятным происхождением данных. В качестве примера модели с открытыми весами китайского происхождения компания упомянула Qwen от Alibaba.