मैं यह क्यों नहीं देख सकता या हटा नहीं सकता कि मेरा असिस्टेंट मेरे बारे में ठीक-ठीक क्या याद रखता है?
अवसर
पर्सिस्टेंट मेमोरी वाले हर प्रमुख AI असिस्टेंट सत्रों में उपयोगकर्ताओं के बारे में तथ्य संग्रहीत करते हैं, लेकिन यूज़र-फेसिंग इंटरफेस केवल सारांशों की एक पतली सूची होती है, कोई ऑडिटेबल लॉग नहीं। यह जांचने का कोई मानक तरीका नहीं है कि कौन सा विशेष दावा कब अनुमानित किया गया, किस बात ने उसे ट्रिगर किया, या उसे रिट्रीवल पाइपलाइन के साथ साझा किया गया या नहीं। जब कोई उपयोगकर्ता असिस्टेंट से कुछ भूलने को कहता है, तो डिलीट ऑपरेशन अपारदर्शी होता है। अंतर्निहित वेक्टर स्टोर एम्बेडिंग बनाए रख सकता है, कन्वर्सेशन लॉग को सबपीना किया जा सकता है, और इस बात का कोई क्रिप्टोग्राफिक प्रमाण नहीं है कि डिलीशन पूर्ण हुई। IAPP और EU AI Act दोनों ही कॉलेबल डिलीशन साक्ष्य के साथ ऑडिटेबल मेमोरी की मांग करते हैं, लेकिन आज कोई भी उत्पाद इसे शिप नहीं करता।
यह क्यों मायने रखता है
सत्यापन योग्य ऑडिट ट्रेल के बिना, उपयोगकर्ता-नियंत्रित मेमोरी महज एक नाटक है, क्योंकि जिन अधिकारों को उपयोगकर्ता देख नहीं सकते, उनका उपयोग भी नहीं कर सकते।
मैं अवसर को कैसे आंकता हूं
Opportunity Score मेरा अपना आकलन है, कोई माप नहीं: यह कितना तकलीफदेह है, कितनी बार परेशान करता है, और आज इसे हल करने के लिए कितना कम मौजूद है। जितना ज़्यादा स्कोर, उतना ज़्यादा मुझे लगता है कि इसे बनाना सार्थक है।
जब यह सामने आता है तो कितनी तकलीफ देता है।
लोग वास्तव में कितनी बार इससे टकराते हैं।
आज इसके लिए कितने कम अच्छे टूल मौजूद हैं।
और हल करने लायक समस्याएं
हर AI ऐप टैब बंद करते ही मुझे क्यों भूल जाता है?
AIकिसी नए क्षेत्र को सीखना अभी भी यह जानने पर निर्भर क्यों है कि क्या पूछना है?
AIकोई गैर-विशेषज्ञ यह क्यों नहीं जांच सकता कि AI ने उन्हें अभी क्या बताया?
AIहम मॉडलों को बेंचमार्क पर परखते हैं, लेकिन उन्हें महज़ अंदाज़े पर शिप क्यों करते हैं?
AIAI एजेंटों को अपनी गलतियों की याद क्यों नहीं रहती?
AIमैं यह ऑडिट क्यों नहीं कर सकता कि एक मॉडल को वास्तव में किस डेटा पर ट्रेन किया गया था?