Waarom kan een vergiftigd document stilzwijgend alles wat mijn assistent over mij weet exfiltreren?

In juni 2025 onthulde Aim Security EchoLeak, de eerste gedocumenteerde zero-click promptinjectie die daadwerkelijke data-exfiltratie veroorzaakte vanuit een productie-AI-systeem. Eén enkel kwaadaardig e-mailbericht zorgde ervoor dat Microsoft Copilot stilzwijgend gevoelige gegevens verzond zonder gebruikersinteractie. Het structurele probleem is dat AI-assistenten met persistent geheugen en toegang tot gereedschapsaanroepen twee gevaarlijke eigenschappen combineren. Ze bevatten geaccumuleerde persoonlijke context en ze kunnen worden aangezet tot het opvolgen van instructies die zijn ingebed in onvertrouwde inhoud. Elk nieuw document, e-mailbericht of webpagina dat de assistent leest, is een potentieel instructieoppervlak. Er is geen isolatiegrens tussen het geheugen dat de gebruiker de assistent vertrouwt te bewaren en de instructies die het volgt van externe inhoud, en huidige sandboxingvoorstellen behandelen gereedschapsaanroepen maar niet de leestoegang tot het geheugen.