Искусственный интеллект

Recursive выпустила локальную AI-модель для программирования Flint

Стартап Recursive представил бесплатную модель Flint, которая запускается на ноутбуке и, по заявлению компании, в значительной степени создана с помощью AI

Один основной источник · Как мы проверяем новости

Recursive выпустила локальную AI-модель для программирования Flint
Иллюстрация к материалу RedBTC News

Что произошло

AI-стартап Recursive выпустил свою первую модель Flint. Компания называет ее ранним публичным испытанием идеи рекурсивного самоулучшения, при которой AI помогает создавать более совершенные системы AI.

По заявлению Recursive, модель в значительной степени разработана с помощью автоматизированной исследовательской системы Eureka Machine. При этом система работала под контролем людей, а результатом стала модель, достаточно компактная для запуска на ноутбуке.

Возможности модели

Flint относится к моделям типа «смесь экспертов»: для конкретной задачи она задействует только небольшую часть параметров — 2,5 млрд из 40 млрд. Это делает модель подходящей для обычного ноутбука.

В тестах Recursive Flint показывала около 131 токена в секунду на MacBook Pro с чипом Apple M4 Pro. Для сравнения, похожие модели на том же компьютере выдавали от 58 до 69 токенов в секунду. На Nvidia RTX Spark скорость Flint превысила 150 токенов в секунду.

На тесте SWE-Bench Verified, который оценивает способность AI исправлять ошибки в реальном программном обеспечении, Flint обошла другие модели с менее чем 50 млрд параметров.

Почему это важно

Flint работает на компьютере пользователя, а не на облачных серверах компании. Поэтому разработчики могут использовать ее без подключения к интернету, сохранять код в приватной среде и не платить за обработку текста облачным AI-сервисам.

Модель распространяется бесплатно через Hugging Face по лицензии Apache 2.0, которая разрешает свободное использование и модификацию.

Контекст

Recursive появилась из закрытого режима в мае, имея $650 млн финансирования при оценке $4,65 млрд. Среди инвесторов компании — GV, Nvidia и AMD Ventures. Возглавляет Recursive генеральный директор Richard Socher, бывший главный научный сотрудник Salesforce.

Компания признает, что Flint требует больше указаний, чем крупные платные помощники для программирования, и рекомендует разбивать большие задачи на небольшие этапы. При этом ранние обзоры были положительными: Will Knight из Wired использовал модель на Mac с 48 ГБ памяти для создания нескольких небольших программ.

Advertisement

Источники

Один основной источник. Как мы проверяем новости

  1. techcrunch.com