Почему доказательство корректности работы модели всё ещё занимает больше времени, чем её запуск?
Возможность
Доказательства с нулевым разглашением для ML-инференса позволяют подтвердить, что модель произвела данный результат из данных входных данных, не раскрывая веса. Это позволило бы криптоприложениям использовать AI-результаты без доверия к оператору, не полагаясь на TEE или его репутацию. Проблема заключается в производительности: генерация ZK-доказательства для модели масштаба GPT-2 занимает десятки минут; для масштаба GPT-3 это измеряется часами. Арифметика с плавающей точкой в трансформерах неэффективно компилируется в арифметические схемы, а механизм внимания особенно дорого обходится при доказательстве. Аттестация на основе TEE закрывает этот пробел, но требует доверия прошивке производителя оборудования, а не математике. До тех пор пока генерация доказательств не ускорится на два-три порядка, каждый верифицируемый AI-примитив в криптографии обменивает одно допущение о доверии на другое.
Почему это важно
Обещание достоверной нейтральности крипто-нативного AI зависит от ZK-доказательств, достаточно быстрых для использования в продакшене, а сегодня они таковыми не являются.
Как я оцениваю возможность
Оценка возможности отражает моё личное суждение, а не точное измерение: насколько проблема болезненна, как часто она встречается и насколько мало существует решений сегодня. Чем выше оценка, тем более достойной реализации я считаю эту задачу.
Насколько серьёзные проблемы это создаёт.
Как часто люди с этим сталкиваются.
Насколько мало хороших инструментов для этого существует сегодня.
Ещё задачи, достойные решения
Как на самом деле выглядит банковский счёт агента ИИ?
AI x CryptoМожет ли организация на блокчейне, управляемая агентами, не превратиться в машину для мошенничества?
AI x CryptoКак доказать, что фотография или голос настоящие, если за них не ручается платформа?
AI x CryptoПочему on-chain идентичность — это либо ничто, либо вся ваша жизнь?
AI x CryptoКак мне отследить, какой агент действовал от моего имени в цепочке делегирования?
AI x CryptoWhy does running my prompt inside an encrypted VM not actually keep it private?