Ramp запустила Router для маршрутизации запросов к AI-моделям

Что произошло

Ramp запустила Router — сервис маршрутизации AI-моделей, который позволяет пользователям и компаниям работать с разными крупными языковыми моделями через API.

Компания утверждает, что использовала созданный ею маршрутизатор для собственных задач, связанных с AI, в течение последних трех лет.

Как работает Router

Router дает доступ к моделям OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. По функциональности сервис похож на OpenRouter, хотя у OpenRouter, как отмечает источник, сейчас больше вариантов AI-моделей.

Сервис предлагает несколько стратегий маршрутизации запросов. Пользователи могут задавать предпочтения по уровням использования у поставщиков моделей, выбирать маршрутизацию по максимум трем заданным бенчмаркам, отправлять только сложные задачи дорогим моделям или тестировать модели без ручного переключения.

Пользователям также доступна панель, где можно смотреть расход токенов, стоимость, задержку, попытки резервного переключения и другие данные.

Доступность и данные

Router пока доступен только в США. До конца 2026 года сервис можно использовать бесплатно, но расходы на инференс AI-моделей остаются за пользователями. При запуске Ramp предлагает кредит на $26.

Ramp не раскрыла, сколько будет стоить сервис в следующем году.

У Router действует политика хранения данных с возможностью отказа: по умолчанию сервис будет записывать входные данные моделей, выходные данные и вызовы инструментов в течение одного года. Компания заявляет, что будет удалять персонально идентифицируемую информацию перед использованием такого контента для улучшения продукта.

Почему это важно

Для Ramp выход на рынок маршрутизации моделей может стать способом участвовать в растущем рынке AI-инференса и предложить существующим клиентам сервис, связанный с ее продуктами для мониторинга использования AI-токенов и управления расходами на них.

Источник также отмечает, что если Router станет привлекательной площадкой для тестирования моделей, Ramp может выстроить долгосрочные отношения с AI-лабораториями и поставщиками инференса по всему миру.

В июне Ramp привлекла $750 млн при оценке $44 млрд.