Perché dimostrare che un modello ha eseguito correttamente richiede ancora più tempo dell'esecuzione stessa?

Le prove a conoscenza zero dell'inferenza ML possono verificare che un modello abbia prodotto un determinato output da un determinato input senza rivelare i pesi. Ciò permetterebbe alle applicazioni crypto di consumare gli output dell'IA in modo trustless, senza fare affidamento su TEE o sulla reputazione dell'operatore. Il problema è la performance: generare una prova ZK per un modello della scala di GPT-2 richiede decine di minuti; alla scala di GPT-3 si misura in ore. L'aritmetica in virgola mobile nei transformer si compila in modo inefficiente in circuiti aritmetici, e il meccanismo di attenzione è particolarmente costoso da dimostrare. L'attestazione basata su TEE maschera questo divario, ma richiede di fidarsi del firmware del produttore hardware piuttosto che della matematica. Finché la generazione delle prove non scende di due o tre ordini di grandezza, ogni primitiva AI verificabile nel crypto sta scambiando un'assunzione di fiducia con un'altra.