データセットを公開せずに、モデルが同意を得たデータで学習されたことをどのように証明するか？

分散型AIネットワークは誰でも共有モデルの学習にコンピュートやデータを提供できるが、ネットワークが何を学習したかを公開せずに、学習コーパスから汚染・盗難・同意のないデータが除外されていることを下流ユーザーや規制当局が検証できるメカニズムは存在しない。今日のデータプロベナンスは、貢献者が自己申告する署名済みマニフェストか、分散化の目的を損なう集中型監査のどちらかだ。2025年2月の活性化反転攻撃に関する論文は、連合学習中に交換される勾配信号から学習データを部分的に再構築できることを示しており、勾配の共有を必要とするプロベナンススキームはデータも漏洩することを意味する。2025年のOWASP LLMトップ10は、オープンな分散型学習実行に対して標準化された緩和策がないカテゴリとして、サプライチェーンのデータポイズニングを明示的に挙げている。