AI
내가 호출한 원격 모델이 명시된 대로 실행되었다는 암호학적 증명을 어떻게 얻을 수 있는가?
84
기회
클라우드 AI API는 어떤 모델 버전이 실행되었는지, 어떤 양자화로, 또는 상위에서 어떤 시스템 프롬프트가 앞에 추가되었는지에 대한 검증 가능한 증거 없이 출력을 반환한다. NVIDIA Hopper 하드웨어의 GPU 기밀 컴퓨팅은 하드웨어 상태를 증명할 수 있지만, 증명 증거는 API 호출자에게 전달되지 않으며 신뢰 체인은 벤더가 통제하는 인증서 인프라 내에서 종료된다. 2026년 6월의 한 논문은 TEE 기반의 검증 가능한 안전 벤치마크를 제안하지만, 어떤 프로덕션 API도 호출자에게 호출별 추론 영수증을 노출하지 않는다. 모델 신원이 중요한 적대적 또는 규제된 맥락에서는 제공자의 말을 신뢰할 수밖에 없다.
왜 중요한가
검증 가능한 추론 영수증 없이는 원격 모델 호출에 대해 이루어지는 모든 안전, 컴플라이언스, 정렬 주장이 제공자 신뢰에만 의존하게 되며, 이는 규제된 배포나 자율 에이전트 스택에는 충분하지 않다.
기회 평가 방식
기회 점수는 측정값이 아닌 제 주관적 평가입니다. 얼마나 불편한지, 얼마나 자주 발생하는지, 현재 해결책이 얼마나 부족한지를 반영합니다. 점수가 높을수록 만들 가치가 더 높다고 생각합니다.
심각도8/10
발생했을 때 얼마나 큰 불편을 초래하는지.
빈도8/10
실제로 얼마나 자주 접하게 되는지.
공백 영역9/10
현재 이를 해결할 만한 도구가 얼마나 부족한지.