모델이 올바르게 실행되었음을 증명하는 데 왜 아직도 실행하는 것보다 더 오랜 시간이 걸리는가?

ML 추론의 영지식 증명은 가중치를 공개하지 않고도 모델이 주어진 입력에서 주어진 출력을 생성했음을 검증할 수 있다. 이를 통해 크립토 애플리케이션은 TEE나 운영자 평판에 의존하지 않고 AI 출력을 신뢰 없이 소비할 수 있다. 문제는 성능이다. GPT-2 규모 모델의 ZK 증명 생성에는 수십 분이 걸리고, GPT-3 규모에서는 몇 시간 단위로 측정된다. 트랜스포머의 부동 소수점 산술은 산술 회로로 비효율적으로 컴파일되며, 어텐션 메커니즘은 특히 증명 비용이 높다. TEE 기반 증명은 이 격차를 덮어주지만 수학보다는 하드웨어 벤더 펌웨어를 신뢰해야 한다. 증명 생성이 두세 자릿수 줄어들기 전까지, 크립토의 모든 검증 가능한 AI 프리미티브는 한 가지 신뢰 가정을 다른 것으로 교환하는 셈이다.