Why does attesting my LLM inference still let the operator infer what I asked?
Kans
Trusted Execution Environments can now prove a specific model ran without modification, which is real progress on integrity. But attestation proves integrity, not confidentiality. During transformer inference the memory access patterns, cache timing, and PCIe bus traffic between the CPU and GPU create a measurable side channel that leaks information about the prompt even inside an attested enclave. September 2026 research demonstrates verbatim token leakage through this channel on H100 configurations. Splitting the model across a trusted CPU and an untrusted GPU, which is required at production scale, enlarges the attack surface in ways that current enclave designs do not address.
Waarom het belangrijk is
Side-channel hardening is the missing half of verifiable AI compute because attestation proves integrity but leaves prompt confidentiality undefended.
Hoe ik de kans beoordeel
De Opportunity Score is mijn eigen inschatting, geen meting: hoe ernstig het pijn doet, hoe vaak het toeslaat, en hoe weinig er vandaag de dag bestaat om het op te lossen. Hoger betekent dat ik denk dat het meer de moeite waard is om te bouwen.
Hoeveel pijn het veroorzaakt wanneer het zich voordoet.
Hoe vaak mensen er daadwerkelijk tegenaan lopen.
Hoe weinig goede tools er vandaag de dag voor bestaan.
Meer problemen die het oplossen waard zijn
Hoe ziet de bankrekening van een AI-agent er eigenlijk uit?
AI x CryptoKan een on-chain organisatie die door agents wordt beheerd vermijden een scammachine te worden?
AI x CryptoHoe bewijs je dat een foto of stem echt is zonder dat een platform ervoor instaat?
AI x CryptoWaarom is on-chain identiteit ofwel niets ofwel je hele leven?
AI x CryptoHoe controleer ik welke agent onder mijn identiteit heeft gehandeld in een delegatieketen?
AI x CryptoWaarom leidt elke transactie die mijn makelaar uitvoert tot een risico dat ik niet kan inschatten?