Perché un documento compromesso può esfiltrare silenziosamente tutto ciò che il mio assistente sa di me?

Opportunità

Nel giugno 2025, Aim Security ha divulgato EchoLeak, la prima prompt injection zero-click documentata che ha causato una reale esfiltrazione di dati da un sistema AI in produzione. Una singola email malevola ha indotto Microsoft Copilot a trasmettere silenziosamente dati sensibili senza alcuna interazione da parte dell'utente. Il problema strutturale è che gli assistenti AI con memoria persistente e accesso agli strumenti combinano due proprietà pericolose: conservano il contesto personale accumulato e possono essere indotti a seguire istruzioni incorporate in contenuti non attendibili. Ogni nuovo documento, email o pagina web che l'assistente legge è una potenziale superficie per istruzioni malevole. Non esiste un confine di isolamento tra la memoria che l'utente affida all'assistente e le istruzioni che questo segue da contenuti esterni, e le attuali proposte di sandboxing riguardano le chiamate agli strumenti ma non l'accesso in lettura alla memoria.

Perché è importante

La memoria personale dell'AI trasforma ogni documento malevolo in un attacco mirato di furto del dossier, una nuova classe di attacchi senza difese mature.

Come valuto l'opportunità

L'Opportunity Score è la mia valutazione personale, non una misurazione: quanto fa male, con quale frequenza colpisce e quanto poco esiste per risolverlo oggi. Un punteggio più alto significa che lo ritengo più degno di essere sviluppato.

Gravità10/10

Quanto dolore provoca quando si manifesta.

Frequenza7/10

Quanto spesso le persone ci si imbattono davvero.

Spazio bianco8/10

Quanti pochi strumenti validi esistono oggi per affrontarlo.

Altri problemi che vale la pena risolvere

Perché ogni app AI mi dimentica nel momento in cui chiudo la scheda?

Perché imparare un nuovo campo dipende ancora dal sapere cosa chiedere?

Perché una persona non esperta non riesce a verificare ciò che un'AI le ha appena detto?

Perché testiamo i modelli sui benchmark ma li rilasciamo a sensazione?

Perché gli agenti AI non hanno memoria dei propri errori?

Perché non posso verificare su cosa è stato effettivamente addestrato un modello?

← Tutti i problemi che vale la pena risolvere Su Anurag →