Waarom duurt het bewijzen dat een model correct is uitgevoerd nog steeds langer dan het uitvoeren zelf?

Zero-knowledge-bewijzen van ML-inferentie kunnen verifiëren dat een model een bepaalde uitvoer heeft geproduceerd op basis van een gegeven invoer, zonder de gewichten prijs te geven. Dit zou crypto-applicaties in staat stellen AI-uitvoer vertrouwensloos te consumeren zonder te vertrouwen op TEE's of de reputatie van de operator. Het probleem is prestatie: het genereren van een ZK-bewijs voor een model op GPT-2-schaal duurt tientallen minuten; op GPT-3-schaal worden dat uren. Drijvende-kommarekenkunde in transformers compileert inefficiënt naar rekenkundige circuits, en het aandachtsmechanisme is bijzonder kostbaar te bewijzen. TEE-gebaseerde attestering dicht dit gat, maar vereist vertrouwen in de firmware van de hardwareleverancier in plaats van in wiskunde. Totdat het genereren van bewijzen met twee tot drie ordes van grootte sneller wordt, ruilt elk verifieerbaar AI-primitief in crypto de ene vertrouwensaanname in voor de andere.