एक दूषित दस्तावेज़ मेरे असिस्टेंट को मेरे बारे में जो कुछ पता है, वह सब चुपचाप कैसे चुरा सकता है?

जून 2025 में, Aim Security ने EchoLeak का खुलासा किया, जो किसी प्रोडक्शन AI सिस्टम से वास्तविक डेटा चोरी करने वाला पहला दस्तावेज़ीकृत ज़ीरो-क्लिक प्रॉम्प्ट इंजेक्शन था। एक ही दुर्भावनापूर्ण ईमेल के कारण Microsoft Copilot ने बिना किसी यूजर इंटरैक्शन के संवेदनशील डेटा चुपचाप भेज दिया। मूल समस्या यह है कि स्थायी मेमोरी और टूल-कॉलिंग एक्सेस वाले AI असिस्टेंट दो खतरनाक गुणों को एक साथ रखते हैं। वे संचित व्यक्तिगत संदर्भ को संजोकर रखते हैं और अविश्वसनीय सामग्री में छिपे निर्देशों पर कार्य कर सकते हैं। असिस्टेंट जो भी नया दस्तावेज़, ईमेल या वेबपेज पढ़ता है, वह एक संभावित इंस्ट्रक्शन सर्फेस है। यूजर जिस मेमोरी पर असिस्टेंट का भरोसा करता है और असिस्टेंट जो बाहरी सामग्री से निर्देश लेता है, उनके बीच कोई आइसोलेशन बाउंड्री नहीं है, और मौजूदा सैंडबॉक्सिंग प्रस्ताव टूल कॉल्स को तो संबोधित करते हैं, लेकिन मेमोरी रीड एक्सेस को नहीं।