AI x Crypto

मैं यह कैसे साबित करूं कि एक मॉडल को सहमति वाले डेटा पर प्रशिक्षित किया गया था, बिना डेटासेट का खुलासा किए?

अवसर

विकेंद्रीकृत AI नेटवर्क किसी को भी साझा मॉडल को प्रशिक्षित करने के लिए कंप्यूट या डेटा योगदान करने देते हैं, लेकिन कोई तंत्र नहीं है जिससे कोई डाउनस्ट्रीम उपयोगकर्ता या नियामक यह सत्यापित कर सके कि प्रशिक्षण कॉर्पस में विषाक्त, चोरी, या बिना सहमति वाला डेटा शामिल नहीं था, बिना नेटवर्क यह बताए कि उसने किस पर प्रशिक्षण लिया। आज डेटा उद्गम या तो एक हस्ताक्षरित मैनिफेस्ट है जिसे योगदानकर्ता स्वयं प्रमाणित करते हैं, या एक केंद्रीकृत ऑडिट जो विकेंद्रीकरण के उद्देश्य को विफल कर देता है। फरवरी 2025 में एक्टिवेशन इनवर्जन अटैक पर एक पेपर ने दिखाया कि फेडरेटेड प्रशिक्षण के दौरान आदान-प्रदान किए गए ग्रेडिएंट संकेतों से प्रशिक्षण डेटा को आंशिक रूप से पुनर्निर्मित किया जा सकता है, जिसका अर्थ है कि ग्रेडिएंट साझा करने की आवश्यकता वाली कोई भी उद्गम योजना डेटा भी लीक करती है। 2025 OWASP LLM टॉप-टेन में सप्लाई-चेन डेटा पॉइज़निंग को स्पष्ट रूप से एक ऐसी श्रेणी के रूप में सूचीबद्ध किया गया है जिसके लिए खुले, विकेंद्रीकृत प्रशिक्षण रन हेतु कोई मानकीकृत शमन नहीं है।

यह क्यों मायने रखता है

सत्यापन योग्य डेटा उद्गम के बिना, किसी सार्वजनिक विकेंद्रीकृत नेटवर्क पर प्रशिक्षित प्रत्येक मॉडल नियामक या कॉपीराइट जांच का सामना करने वाले किसी भी डाउनस्ट्रीम अनुप्रयोग के लिए एक देनदारी है।

मैं अवसर को कैसे आंकता हूं

Opportunity Score मेरा अपना आकलन है, कोई माप नहीं: यह कितना तकलीफदेह है, कितनी बार परेशान करता है, और आज इसे हल करने के लिए कितना कम मौजूद है। जितना ज़्यादा स्कोर, उतना ज़्यादा मुझे लगता है कि इसे बनाना सार्थक है।

गंभीरता8/10

जब यह सामने आता है तो कितनी तकलीफ देता है।

आवृत्ति7/10

लोग वास्तव में कितनी बार इससे टकराते हैं।

व्हाइटस्पेस9/10

आज इसके लिए कितने कम अच्छे टूल मौजूद हैं।