मैं यह ऑडिट क्यों नहीं कर सकता कि एक मॉडल को वास्तव में किस डेटा पर ट्रेन किया गया था?
अवसर
मॉडल पूरा इंटरनेट अवशोषित कर लेते हैं और फिर ऐसे जवाब देते हैं जिनमें यह पता लगाने का कोई तरीका नहीं कि कोई दावा या व्यवहार कहाँ से आया। किसी भी विनियमित चीज़ के लिए, या कॉपीराइट या पूर्वाग्रह पर किसी भी विवाद के लिए, ट्रेनिंग सेट एक ब्लैक बॉक्स है। किसी मॉडल से यह पूछने का कोई व्यावहारिक तरीका नहीं है कि उसने क्या सीखा और ईमानदार जवाब मिले।
यह क्यों मायने रखता है
आप ऐसी प्रणाली को नियंत्रित या पूरी तरह विश्वास नहीं कर सकते जिसके इनपुट अदृश्य हों।
मैं अवसर को कैसे आंकता हूं
Opportunity Score मेरा अपना आकलन है, कोई माप नहीं: यह कितना तकलीफदेह है, कितनी बार परेशान करता है, और आज इसे हल करने के लिए कितना कम मौजूद है। जितना ज़्यादा स्कोर, उतना ज़्यादा मुझे लगता है कि इसे बनाना सार्थक है।
जब यह सामने आता है तो कितनी तकलीफ देता है।
लोग वास्तव में कितनी बार इससे टकराते हैं।
आज इसके लिए कितने कम अच्छे टूल मौजूद हैं।
और हल करने लायक समस्याएं
हर AI ऐप टैब बंद करते ही मुझे क्यों भूल जाता है?
AIकिसी नए क्षेत्र को सीखना अभी भी यह जानने पर निर्भर क्यों है कि क्या पूछना है?
AIकोई गैर-विशेषज्ञ यह क्यों नहीं जांच सकता कि AI ने उन्हें अभी क्या बताया?
AIहम मॉडलों को बेंचमार्क पर परखते हैं, लेकिन उन्हें महज़ अंदाज़े पर शिप क्यों करते हैं?
AIAI एजेंटों को अपनी गलतियों की याद क्यों नहीं रहती?
AIप्रशिक्षण डेटा में यह बताने का कोई मशीन-पठनीय रिकॉर्ड क्यों नहीं होता कि किसी ने सहमति दी थी या नहीं?