Искусственный интеллект

IBM представила Granite 4.2 для локального запуска LLM

Новая линейка открытых моделей IBM рассчитана на самостоятельное размещение и делает акцент на рассуждениях, агентных возможностях и предсказуемом внедрении в компаниях

Один основной источник · Как мы проверяем новости

IBM представила Granite 4.2 для локального запуска LLM
Иллюстрация к материалу RedBTC News

Что произошло

IBM представила Granite 4.2 — новые открытые большие языковые модели, предназначенные для загрузки и самостоятельного размещения.

Линейка вышла в трех вариантах: 3B, 8B и 30B параметров. Как и в предыдущих версиях, IBM использует архитектуру только с декодером.

Детали

Granite 4.2 нативно поддерживает контекстное окно на 128 000 токенов.

Модели 8B и 30B прошли блок агентного обучения с подкреплением. Их обучали для расширенных возможностей, включая использование терминала, веб-поиск и работу с внешними инструментами. Версия 3B тоже поддерживает инструменты, но без такого же уровня специализированного обучения.

IBM описывает Granite 4.2 как выпуск семейства Granite, ориентированный на рассуждения. В контексте LLM речь идет не о сознательном понимании задачи, а о функциональном рассуждении, включая цепочку рассуждений и перенос промежуточных результатов через несколько шагов.

Почему это важно

Для пользователей акцент на рассуждениях может означать более строгие и точные ответы в отдельных случаях, но также более медленную генерацию и более высокие вычислительные требования.

Семейство Granite обычно не позиционируется как самое быстрое или наиболее агрессивно инновационное. На фоне конкурентов в сегменте локальных корпоративных моделей, включая Nvidia Nemotron, ставка IBM выглядит направленной на предсказуемое внедрение.

Контекст

Интерес к локальным моделям растет на фоне обсуждений стоимости и вычислительных ограничений передовых облачных моделей от компаний вроде Anthropic и OpenAI.

Индивидуальные разработчики и корпоративные организации рассматривают локальные модели как более дешевые альтернативы. Это также усилило интерес к маршрутизаторам моделей — AI-инструментам, которые направляют запросы и задачи к подходящим моделям, балансируя производительность, скорость и стоимость.

Такие модели также востребованы у энтузиастов, AI-исследователей и независимых разработчиков, поскольку их можно настраивать на локальном оборудовании без платы за API по токенам.

Advertisement

Источники

Один основной источник. Как мы проверяем новости

  1. arstechnica.com