Pourquoi un document empoisonné peut-il exfiltrer silencieusement tout ce que mon assistant sait sur moi ?
Opportunity
En juin 2025, Aim Security a divulgué EchoLeak, la première injection de prompt zero-click documentée ayant provoqué une exfiltration réelle de données depuis un système d'IA en production. Un seul email malveillant a conduit Microsoft Copilot à transmettre silencieusement des données sensibles sans aucune interaction de l'utilisateur. Le problème structurel est que les assistants IA dotés d'une mémoire persistante et d'un accès aux appels d'outils combinent deux propriétés dangereuses. Ils accumulent un contexte personnel et peuvent être amenés à exécuter des instructions intégrées dans des contenus non fiables. Chaque nouveau document, email ou page web que l'assistant lit est une surface d'instruction potentielle. Il n'existe aucune frontière d'isolation entre la mémoire que l'utilisateur confie à l'assistant et les instructions que ce dernier suit depuis des contenus externes, et les propositions actuelles de sandboxing traitent les appels d'outils mais pas l'accès en lecture à la mémoire.
Why it matters
La mémoire personnelle de l'IA transforme chaque document malveillant en une attaque ciblée de vol de dossier, une nouvelle classe d'attaque sans défense mature.
Comment j'évalue l'opportunité
The Opportunity Score is my own read, not a measurement: how much it hurts, how often it bites, and how little exists to solve it today. Higher means I think it is more worth building.
How much pain it causes when it shows up.
How often people actually run into it.
How little good tooling exists for it today.
D'autres problèmes qui méritent d'être résolus
Pourquoi chaque application IA m'oublie-t-elle dès que je ferme l'onglet ?
AIPourquoi apprendre un nouveau domaine est-il encore conditionné par le fait de savoir quoi demander ?
AIPourquoi un non-expert ne peut-il pas vérifier ce qu'une IA vient de lui dire ?
AIPourquoi teste-t-on les modèles sur des benchmarks mais les déploie-t-on à l'instinct ?
AIPourquoi les agents IA n'ont-ils aucun souvenir de leurs propres erreurs ?
AIPourquoi ne puis-je pas vérifier sur quoi un modèle a réellement été entraîné ?