Por que um documento malicioso pode exfiltrar silenciosamente tudo o que meu assistente sabe sobre mim?
Oportunidade
Em junho de 2025, a Aim Security divulgou o EchoLeak, a primeira injeção de prompt zero-click documentada que causou exfiltração real de dados de um sistema de IA em produção. Um único e-mail malicioso fez o Microsoft Copilot transmitir silenciosamente dados sensíveis sem qualquer interação do usuário. O problema estrutural é que assistentes de IA com memória persistente e acesso a chamadas de ferramentas combinam duas propriedades perigosas. Eles acumulam contexto pessoal e podem ser induzidos a agir com base em instruções embutidas em conteúdo não confiável. Cada novo documento, e-mail ou página da web que o assistente lê é uma potencial superfície de instrução. Não existe uma fronteira de isolamento entre a memória que o usuário confia ao assistente e as instruções que ele segue de conteúdo externo, e as propostas atuais de sandboxing tratam de chamadas de ferramentas, mas não do acesso de leitura à memória.
Por que importa
A memória pessoal de IA transforma cada documento malicioso em um ataque direcionado de roubo de dossiê, uma nova classe de ataque sem defesa madura.
Como avalio a oportunidade
A Pontuação de Oportunidade é minha própria leitura, não uma medição: o quanto dói, com que frequência aparece e o quanto pouco existe para resolvê-lo hoje. Quanto maior, mais vale a pena construir, na minha opinião.
O quanto de dor causa quando aparece.
Com que frequência as pessoas realmente se deparam com isso.
O quanto pouco de boas ferramentas existe para isso hoje.
Mais problemas que merecem ser resolvidos
Por que todo aplicativo de IA me esquece no momento em que fecho a aba?
AIPor que aprender uma nova área ainda depende de saber o que perguntar?
AIPor que uma pessoa sem especialização não consegue verificar o que uma IA acabou de dizer?
AIPor que testamos modelos em benchmarks mas os lançamos em produção no achismo?
AIPor que agentes de IA não têm memória dos próprios erros?
AIPor que não consigo auditar em que um modelo foi realmente treinado?