Anthropic открыла систему доказательств, какая ИИ-модель дала ответ
FlashProve проверяет вывод конкретных весов, не раскрывая их, но пока остаётся дорогим исследовательским прототипом.
Anthropic открыла исходный код FlashProve — исследовательской системы, которая позволяет провайдеру доказать, что ответ получен от конкретного набора весов модели, не раскрывая сами веса.
Система использует zkSNARK. Сначала провайдер публикует криптографическое обязательство, связанное с моделью, а затем создаёт доказательство для каждого ответа. Клиент, независимый оценщик или регулятор может проверить его на CPU. Это помогает обнаруживать незаметную подмену моделей у API-роутеров, вмешательство на сервере инференса или расхождение между протестированной и реально обслуживаемой моделью.
На 4-битной Llama 4 Maverick один H100, по данным Anthropic, создаёт доказательства со скоростью около 110 токенов в секунду. Файл занимает примерно 19 МБ для запроса на 1024 токена, а проверка на 24-ядерном CPU длится около 17 секунд. При этом создание доказательства требует примерно в 70–95 раз больше GPU-времени, чем обычный инференс через vLLM.
FlashProve пока не готова к продакшену. Прототип ограничен коротким контекстом, жадным декодированием, целочисленной арифметикой и MoE-моделями. Побочные каналы не рассматриваются. Код, два верификатора, документация протокола и доказательства на Lean опубликованы под Apache 2.0.
Работа превращает идентичность модели из догадки по стилю ответа в криптографически проверяемый факт.
Anthropic
