Pourquoi un contenu malveillant lu par mon agent peut-il autoriser mon portefeuille on-chain à transférer des fonds ?
Opportunité
Un agent IA disposant d'une autorité de signature sur un portefeuille crypto traite du contenu externe arbitraire dans le cadre de son contexte de tâche : pages web, e-mails, documents, réponses d'API. Rien dans l'infrastructure de signature actuelle ne sépare les sources d'instructions les unes des autres, si bien qu'une page que l'agent est chargé de résumer peut intégrer des instructions de transfert cachées que l'agent interprète comme une tâche légitime et exécute. Les standards de portefeuille comme les clés de session ERC-4337 modélisent le problème en termes de ce que cette clé peut faire, et non de l'origine de cette instruction. Aucun runtime d'agent ne filtre aujourd'hui les décisions de signature en fonction de la provenance des instructions, ce qui signifie qu'un portefeuille autorisé à déplacer des fonds est exactement aussi sûr que le document le plus hostile que l'agent lira jamais.
Pourquoi c'est important
Les agents dotés de clés on-chain sont déjà en production, et chaque contenu qu'ils traitent est un vecteur d'attaque potentiel contre les fonds qu'ils contrôlent.
Comment j'évalue l'opportunité
Le Score d'Opportunité est mon évaluation personnelle, pas une mesure : l'intensité de la douleur, sa fréquence et le peu de solutions qui existent aujourd'hui. Plus il est élevé, plus je pense que le problème vaut la peine d'être résolu.
L'intensité de la douleur qu'il provoque lorsqu'il se manifeste.
La fréquence à laquelle les gens y sont réellement confrontés.
Le peu de bons outils qui existent pour y remédier aujourd'hui.
D'autres problèmes qui méritent d'être résolus
À quoi ressemble vraiment le compte bancaire d'un agent IA ?
AI x CryptoUne organisation on-chain gérée par des agents peut-elle éviter de devenir une machine à arnaques ?
AI x CryptoComment prouver qu'une photo ou une voix est authentique sans qu'une plateforme s'en porte garante ?
AI x CryptoPourquoi l'identité on-chain est-elle soit inexistante soit toute votre vie ?
AI x CryptoComment auditer quel agent a agi sous mon identité dans une chaîne de délégation ?
AI x CryptoComment vérifier qu'un agent IA détenant mes fonds est réellement solvable ?