Skip to content
AI

Comment obtenir une preuve cryptographique que le modèle distant que j'ai appelé s'est exécuté comme spécifié ?

84

Opportunity

Les API d'IA en nuage renvoient des résultats sans aucune preuve vérifiable de la version du modèle exécutée, du niveau de quantisation utilisé, ni du prompt système ajouté en amont. L'informatique confidentielle sur GPU avec du matériel NVIDIA Hopper peut attester l'état du matériel, mais les preuves d'attestation n'atteignent jamais l'appelant de l'API et la chaîne de confiance se termine dans une infrastructure de certificats contrôlée par le fournisseur. Un article de juin 2026 propose des benchmarks de sécurité vérifiables basés sur des TEE, mais aucune API de production n'expose de reçu d'inférence par appel à l'appelant. Tout contexte adverse ou réglementé où l'identité du modèle est importante doit faire confiance à la parole du fournisseur.

Why it matters

Sans reçu d'inférence vérifiable, toute affirmation de sécurité, de conformité et d'alignement portant sur une invocation de modèle distant repose uniquement sur la confiance accordée au fournisseur, ce qui n'est pas suffisant pour les déploiements réglementés ou les architectures d'agents autonomes.

Comment j'évalue l'opportunité

The Opportunity Score is my own read, not a measurement: how much it hurts, how often it bites, and how little exists to solve it today. Higher means I think it is more worth building.

Gravité8/10

How much pain it causes when it shows up.

Fréquence8/10

How often people actually run into it.

Espace libre9/10

How little good tooling exists for it today.

D'autres problèmes qui méritent d'être résolus