आज के वेब पर प्रशिक्षित मॉडल धीरे-धीरे खराब क्यों होते जाते हैं जैसे-जैसे AI इसे अधिक लिखता है?

वेब अब फ्रंटियर मॉडल के लिए प्राथमिक प्रशिक्षण कॉर्पस है और पहले से ही AI-जनित टेक्स्ट से भर चुका है जिसे कोई भी तैनात फ़िल्टर भरोसेमंद तरीके से नहीं पकड़ पाता। 2024 से 2026 के बीच प्रकाशित शोध दर्शाता है कि एक प्रशिक्षण रन में सिंथेटिक डेटा का एक प्रतिशत का अंश भी लगातार पीढ़ियों में डिस्ट्रीब्यूशनल कोलैप्स को ट्रिगर करता है, आउटपुट विविधता को सीमित करता है और टेल परफॉर्मेंस को खराब करता है। यह फीडबैक लूप संरचनात्मक है: इस साल प्रशिक्षित मॉडल ऐसी सामग्री तैयार करते हैं जो अगले साल के प्रशिक्षण रन के कॉर्पस को दूषित करती है। सोर्स-लेवल अनुमत सूचियों, वॉटरमार्क फ़िल्टर और सिंथेटिक-डेटा वेरिफायर जैसे प्रस्तावित उपायों में से हर एक के पास बायपास वेक्टर हैं और इनमें से किसी को भी वेब-क्रॉलर स्तर पर तैनात नहीं किया गया है। किसी मॉडल में प्रवेश करने से पहले AI-जनित प्रशिक्षण डेटा की पहचान और क्वारंटीन के लिए कोई सहमत प्रोटोकॉल मौजूद नहीं है।