데이터셋을 공개하지 않고 모델이 동의된 데이터로 학습되었음을 어떻게 증명할 수 있는가?

탈중앙화 AI 네트워크는 누구나 공유 모델 학습에 컴퓨팅이나 데이터를 기여할 수 있게 해주지만, 네트워크가 학습한 내용을 공개하지 않으면서 하위 사용자나 규제기관이 학습 코퍼스에 오염, 도용, 또는 동의 없이 수집된 데이터가 포함되지 않았음을 검증할 수 있는 메커니즘이 없습니다. 오늘날 데이터 출처 증명은 기여자가 자기 서명한 매니페스트이거나 탈중앙화의 목적을 무색하게 만드는 중앙화된 감사 중 하나입니다. 2025년 2월에 발표된 활성화 역전 공격에 관한 논문은 연합 학습 중 교환되는 그래디언트 신호로부터 학습 데이터를 부분적으로 재구성할 수 있음을 보여주었으며, 이는 그래디언트 공유를 요구하는 모든 출처 증명 방식이 데이터도 함께 유출함을 의미합니다. 2025 OWASP LLM 상위 10개 취약점은 공개적이고 탈중앙화된 학습 실행에 대한 표준화된 완화 방법이 없는 범주로 공급망 데이터 오염을 명시적으로 포함합니다.