Anthropic разрабатывает FlashProve для проверки происхождения ответов AI

Что произошло

Anthropic работает над открытой системой FlashProve для проверки того, какая AI-модель создала конкретный результат. Проект представили в публикации от 3 ноября 2026 года.

Система должна формировать криптографическое доказательство — математическую гарантию происхождения ответа от определенной модели. Пользователь сможет проверить, что получил ответ именно от той модели, которую намеревался использовать.

Как это будет работать

AI-лаборатории должны будут публиковать отпечаток каждой выпущенной модели. Затем его можно будет сопоставить с конкретным результатом и проверить криптографически.

Отпечаток не содержит веса модели — внутренних чисел, определяющих ее поведение. Благодаря этому разработчики смогут публиковать такие данные, не раскрывая ключевой актив, а проверку планируют сделать достаточно легкой для выполнения на локальном устройстве.

Зачем это нужно

FlashProve должна противостоять попыткам выдать одну модель за другую, в том числе со стороны лаборатории, которая создала и запускает модель. Система может помочь обнаружить скрытую замену более дешевой моделью для сокращения затрат или более дорогой моделью для улучшения показателей.

Технологию также можно применять для проверки заявлений третьих сторон. Например, пользователь сможет выяснить, действительно ли библиотеку программного обеспечения проверяла передовая модель кибербезопасности или бизнес-план получил одобрение подходящей модели.

Текущий статус проекта

Исследователи опубликовали подробную техническую спецификацию и рабочий код отдельных компонентов на GitHub. Работа над системой продолжается.

У Anthropic или других лабораторий пока нет планов внедрять FlashProve. Исследователи описали публикацию как промежуточный результат и призвали других специалистов изучать и улучшать предложенный подход.