Jak udowodnić, że model był trenowany na danych za zgodą właścicieli, nie ujawniając zestawu danych?

Zdecentralizowane sieci AI pozwalają każdemu wnosić zasoby obliczeniowe lub dane do trenowania wspólnego modelu, ale nie istnieje mechanizm, za pomocą którego użytkownik końcowy lub regulator mógłby zweryfikować, że korpus treningowy wykluczał zatrute, skradzione lub nieuprawnione dane, bez ujawniania przez sieć tego, na czym była trenowana. Proweniencja danych jest dziś albo podpisanym manifestem, który współtwórcy poświadczają sami, albo scentralizowanym audytem, który przeczy idei decentralizacji. Artykuł z lutego 2025 roku dotyczący ataków odwrócenia aktywacji wykazał, że dane treningowe można częściowo zrekonstruować na podstawie sygnałów gradientowych wymienianych podczas federowanego trenowania, co oznacza, że każdy schemat proweniencji wymagający udostępniania gradientów również ujawnia dane. Lista OWASP LLM Top 10 z 2025 roku explicite wymienia zatruwanie danych w łańcuchu dostaw jako kategorię bez standardowego sposobu łagodzenia dla otwartych, zdecentralizowanych procesów treningowych.