Tại sao việc chứng minh một mô hình chạy đúng lại mất thời gian hơn cả việc chạy nó?

Các ZK proof về suy luận ML có thể xác minh rằng một mô hình đã tạo ra một đầu ra nhất định từ một đầu vào nhất định mà không tiết lộ các trọng số. Điều này sẽ cho phép các ứng dụng crypto sử dụng đầu ra AI một cách không cần tin tưởng mà không phụ thuộc vào TEE hay danh tiếng của người vận hành. Vấn đề là hiệu suất: tạo một ZK proof cho mô hình quy mô GPT-2 mất hàng chục phút; ở quy mô GPT-3 thì được tính bằng giờ. Số học dấu phẩy động trong các transformer biên dịch không hiệu quả sang các mạch số học, và cơ chế attention đặc biệt tốn kém để chứng minh. Chứng thực dựa trên TEE vá víu khoảng trống này nhưng đòi hỏi phải tin tưởng vào firmware của nhà cung cấp phần cứng chứ không phải toán học. Cho đến khi tốc độ tạo proof giảm xuống hai đến ba bậc độ lớn, mọi nguyên ngữ AI có thể xác minh trong crypto đều đang đánh đổi giả định tin tưởng này lấy giả định tin tưởng khác.