OpenAI представила Decisions API для быстрых решений моделей
Новый Decisions API позволяет задавать модели Luna набор вариантов для классификации изображений и выбора поведения агентов. По функциональности продукт может быть похож на Jev от TypeSafe AI
Один основной источник · Как мы проверяем новости
Что произошло
На мероприятии OpenAI Dev Day во вторник генеральный директор компании Сэм Альтман рассказал о новом Decisions API. Сервис позволяет передать модели заранее определённый набор вариантов и выбрать один из них.
Альтман привёл в качестве примеров классификацию изображений и выбор поведения агентов. В OpenAI заявили, что такой подход помогает сделать обработку крайне быстрой, сохранив понимание изображений, поддержку разных языков и защитные механизмы.
Как это работает
По описанию TechCrunch, Decisions API похож на Jev от TypeSafe AI. Jev представляет собой классификатор на базе большой языковой модели: разработчик задаёт набор вариантов, а система недорого и быстро возвращает вероятности для них.
Такой инструмент может дополнять большие языковые модели. Разработчики, использовавшие Jev, обнаружили, что подобная связка работает быстрее и обходится дешевле.
Почему это важно
Интерес OpenAI к подобному подходу отражает проблему традиционных больших языковых моделей: для ряда программных задач они сравнительно медленные и дорогие.
Генеральный директор TypeSafe AI Диогу Алмейда назвал интерес OpenAI возможным признаком того, что будущее за системами, совместимыми с концепцией System One — быстрым и интуитивным мышлением.
Что пока неизвестно
OpenAI выпустила Decisions API в режиме ограниченного предварительного доступа. TechCrunch пока не обнаружил разработчиков, которые бы подробно протестировали сервис, поэтому его сходство с Jev остаётся неясным.
При этом обсуждения в X указывают на заметный интерес к новому продукту.
Источники
Один основной источник. Как мы проверяем новости
