Pourquoi un document empoisonné peut-il exfiltrer silencieusement tout ce que mon assistant sait sur moi ?
Opportunité
En juin 2025, Aim Security a divulgué EchoLeak, la première injection de prompt zero-click documentée ayant provoqué une exfiltration réelle de données depuis un système d'IA en production. Un seul email malveillant a conduit Microsoft Copilot à transmettre silencieusement des données sensibles sans aucune interaction de l'utilisateur. Le problème structurel est que les assistants IA dotés d'une mémoire persistante et d'un accès aux appels d'outils combinent deux propriétés dangereuses. Ils accumulent un contexte personnel et peuvent être amenés à exécuter des instructions intégrées dans des contenus non fiables. Chaque nouveau document, email ou page web que l'assistant lit est une surface d'instruction potentielle. Il n'existe aucune frontière d'isolation entre la mémoire que l'utilisateur confie à l'assistant et les instructions que ce dernier suit depuis des contenus externes, et les propositions actuelles de sandboxing traitent les appels d'outils mais pas l'accès en lecture à la mémoire.
Pourquoi c'est important
La mémoire personnelle de l'IA transforme chaque document malveillant en une attaque ciblée de vol de dossier, une nouvelle classe d'attaque sans défense mature.
Comment j'évalue l'opportunité
Le Score d'Opportunité est mon évaluation personnelle, pas une mesure : l'intensité de la douleur, sa fréquence et le peu de solutions qui existent aujourd'hui. Plus il est élevé, plus je pense que le problème vaut la peine d'être résolu.
L'intensité de la douleur qu'il provoque lorsqu'il se manifeste.
La fréquence à laquelle les gens y sont réellement confrontés.
Le peu de bons outils qui existent pour y remédier aujourd'hui.
D'autres problèmes qui méritent d'être résolus
Pourquoi chaque application IA m'oublie-t-elle dès que je ferme l'onglet ?
AIPourquoi apprendre un nouveau domaine est-il encore conditionné par le fait de savoir quoi demander ?
AIPourquoi un non-expert ne peut-il pas vérifier ce qu'une IA vient de lui dire ?
AIPourquoi teste-t-on les modèles sur des benchmarks mais les déploie-t-on à l'instinct ?
AIPourquoi les agents IA n'ont-ils aucun souvenir de leurs propres erreurs ?
AIPourquoi ne puis-je pas vérifier sur quoi un modèle a réellement été entraîné ?