Anthropic lance FlashProve pour vérifier les réponses des modèles d'IA

Vérifier l’origine d’une réponse d’IA

FlashProve répond à un problème que la société décrit comme croissant dans le déploiement de l’IA : un utilisateur ne peut pas confirmer de manière autonome qu’un service exécute réellement le modèle qu’il prétend utiliser. Un fournisseur, ou un service de routage tiers, pourrait remplacer un modèle par une version moins coûteuse sans en informer les clients.

Le système vise aussi les cas où une infrastructure compromise pourrait altérer les réponses générées. Au lieu de se reposer uniquement sur les assurances du fournisseur, Anthropic propose une vérification cryptographique des sorties.

Le fonctionnement repose sur deux étapes. D’abord, le fournisseur publie un engagement cryptographique qui identifie un ensemble précis de poids du modèle sans les dévoiler. Ensuite, il génère une preuve avec chaque réponse, ce qui permet à toute personne disposant de l’engagement, du prompt et de la sortie de vérifier que le modèle engagé a bien produit la réponse.

Des performances testées sur Llama 4 Maverick

Anthropic a testé FlashProve avec Meta’s Llama 4 Maverick, un modèle de 400-billion-parameter mixture-of-experts doté de poids quantifiés en 4-bit. Selon ses résultats de recherche, un seul GPU NVIDIA H100 a généré des preuves à environ 110 tokens per second.

Chaque preuve mesurait environ 19 MB pour une requête de 1,024-token. L’entreprise estime ainsi que la vérification cryptographique peut fonctionner avec de grands modèles de langage, et pas seulement avec des systèmes expérimentaux plus petits.

En revanche, la génération des preuves reste bien plus coûteuse qu’une inférence d’IA classique. Anthropic indique que FlashProve a nécessité environ 70–95 times le temps de calcul GPU utilisé par vLLM pour exécuter des requêtes comparables.

Un prototype de recherche, pas un service prêt à l’emploi

Anthropic a publié FlashProve sous licence Apache 2.0, avec du code exécutable, un rapport technique, une documentation du protocole et des preuves de sécurité formelles écrites dans Lean. L’entreprise précise aussi que Claude a aidé à développer des améliorations du système cryptographique sous-jacent.

Mais le prototype n’est pas présenté comme un service de production. Le dépôt GitHub décrit FlashProve comme un research artifact non maintenu, tandis que la configuration démontrée utilise une fenêtre de contexte de 1,024-token et nécessite une infrastructure GPU spécialisée pour générer les preuves.

Anthropic estime que sa portée immédiate tient surtout à la démonstration de la faisabilité technique. La société évoque des usages possibles pour les développeurs d’IA, les entreprises clientes, les évaluateurs indépendants et les régulateurs, notamment pour vérifier des engagements liés au déploiement des modèles et aux ressources de calcul, sans divulguer les poids des modèles à des auditeurs externes.