Bagaimana saya membuktikan bahwa sebuah model dilatih pada data yang telah disetujui tanpa mengungkapkan dataset-nya?

Jaringan AI terdesentralisasi memungkinkan siapa pun berkontribusi komputasi atau data untuk melatih model bersama, tetapi tidak ada mekanisme di mana pengguna hilir atau regulator dapat memverifikasi bahwa korpus pelatihan tidak mencakup data yang diracuni, dicuri, atau tidak disetujui tanpa jaringan mengungkapkan apa yang dilatihnya. Provenans data saat ini berupa manifes bertanda tangan yang dibuktikan sendiri oleh kontributor atau audit terpusat yang mengalahkan tujuan desentralisasi. Sebuah makalah Februari 2025 tentang serangan inversi aktivasi menunjukkan bahwa data pelatihan dapat sebagian direkonstruksi dari sinyal gradien yang dipertukarkan selama pelatihan federasi, yang berarti skema provenans mana pun yang memerlukan berbagi gradien juga membocorkan data. OWASP LLM top-ten 2025 secara eksplisit mencantumkan keracunan data rantai pasokan sebagai kategori tanpa mitigasi terstandarisasi untuk pelatihan terdesentralisasi yang terbuka.