अपने एजेंट को टूल एक्सेस देने का अर्थ उस पर सब कुछ भरोसा करना क्यों है?
अवसर
जब आप एक AI एजेंट को टूल का सेट देते हैं, चाहे फ़ाइल सिस्टम एक्सेस हो, वेब रिक्वेस्ट हो, या API कॉल हो, तो कोई मानक तंत्र नहीं है जो प्रत्येक टूल आह्वान को उस विशिष्ट दायरे से जोड़े जिसे आपने कार्य स्वीकृत करते समय अधिकृत किया था। एजेंट मूल इरादे से परे क्रियाएं श्रृंखलाबद्ध कर सकता है या प्रॉम्प्ट इंजेक्शन द्वारा आपके हितों के विरुद्ध अपने स्वयं के टूल उपयोग करने के लिए पुनर्निर्देशित किया जा सकता है। Microsoft ने अप्रैल 2026 में Agent Governance Toolkit जारी किया और एजेंट टूल कॉल के लिए क्रिप्टोग्राफ़िक बाइंडिंग पर arXiv पेपर मार्च 2026 में सामने आए, लेकिन ये प्रारंभिक चरण में हैं और किसी भी मुख्यधारा एजेंट रनटाइम या SDK में एकीकृत नहीं हैं। मूल कमी सिमेंटिक स्तर पर न्यूनतम-विशेषाधिकार प्रिमिटिव की अनुपस्थिति है: एक जो व्यक्तिगत टूल कॉल को व्यापक सत्र-स्तरीय अनुमति के बजाय सत्यापन योग्य, उपयोगकर्ता-स्कोप्ड प्राधिकरण से जोड़े। OWASP के दिसंबर 2025 के Agentic AI Top 10 ने स्पष्ट रूप से अप्रत्याशित टूल निष्पाद को वर्गीकृत
यह क्यों मायने रखता है
प्रति-कॉल प्राधिकरण बाइंडिंग के बिना, हर एजेंटिक एप्लिकेशन एक प्रॉम्प्ट इंजेक्शन दूर है अपने ही टूल और क्रेडेंशियल्स को आपके खिलाफ इस्तेमाल करने से।
मैं अवसर को कैसे आंकता हूं
Opportunity Score मेरा अपना आकलन है, कोई माप नहीं: यह कितना तकलीफदेह है, कितनी बार परेशान करता है, और आज इसे हल करने के लिए कितना कम मौजूद है। जितना ज़्यादा स्कोर, उतना ज़्यादा मुझे लगता है कि इसे बनाना सार्थक है।
जब यह सामने आता है तो कितनी तकलीफ देता है।
लोग वास्तव में कितनी बार इससे टकराते हैं।
आज इसके लिए कितने कम अच्छे टूल मौजूद हैं।
और हल करने लायक समस्याएं
हर AI ऐप टैब बंद करते ही मुझे क्यों भूल जाता है?
AIकिसी नए क्षेत्र को सीखना अभी भी यह जानने पर निर्भर क्यों है कि क्या पूछना है?
AIकोई गैर-विशेषज्ञ यह क्यों नहीं जांच सकता कि AI ने उन्हें अभी क्या बताया?
AIहम मॉडलों को बेंचमार्क पर परखते हैं, लेकिन उन्हें महज़ अंदाज़े पर शिप क्यों करते हैं?
AIAI एजेंटों को अपनी गलतियों की याद क्यों नहीं रहती?
AIमैं यह ऑडिट क्यों नहीं कर सकता कि एक मॉडल को वास्तव में किस डेटा पर ट्रेन किया गया था?