Por que um documento malicioso pode exfiltrar silenciosamente tudo o que meu assistente sabe sobre mim?
Opportunity
Em junho de 2025, a Aim Security divulgou o EchoLeak, a primeira injeção de prompt zero-click documentada que causou exfiltração real de dados de um sistema de IA em produção. Um único e-mail malicioso fez o Microsoft Copilot transmitir silenciosamente dados sensíveis sem qualquer interação do usuário. O problema estrutural é que assistentes de IA com memória persistente e acesso a chamadas de ferramentas combinam duas propriedades perigosas. Eles acumulam contexto pessoal e podem ser induzidos a agir com base em instruções embutidas em conteúdo não confiável. Cada novo documento, e-mail ou página da web que o assistente lê é uma potencial superfície de instrução. Não existe uma fronteira de isolamento entre a memória que o usuário confia ao assistente e as instruções que ele segue de conteúdo externo, e as propostas atuais de sandboxing tratam de chamadas de ferramentas, mas não do acesso de leitura à memória.
Why it matters
A memória pessoal de IA transforma cada documento malicioso em um ataque direcionado de roubo de dossiê, uma nova classe de ataque sem defesa madura.
Como avalio a oportunidade
The Opportunity Score is my own read, not a measurement: how much it hurts, how often it bites, and how little exists to solve it today. Higher means I think it is more worth building.
How much pain it causes when it shows up.
How often people actually run into it.
How little good tooling exists for it today.
Mais problemas que merecem ser resolvidos
Por que todo aplicativo de IA me esquece no momento em que fecho a aba?
AIPor que aprender uma nova área ainda depende de saber o que perguntar?
AIPor que uma pessoa sem especialização não consegue verificar o que uma IA acabou de dizer?
AIPor que testamos modelos em benchmarks mas os lançamos em produção no achismo?
AIPor que agentes de IA não têm memória dos próprios erros?
AIPor que não consigo auditar em que um modelo foi realmente treinado?