একটি বিষাক্ত ডকুমেন্ট কীভাবে নীরবে আমার সহকারী আমার সম্পর্কে যা জানে সব কিছু বের করে নিতে পারে?

২০২৫ সালের জুনে, Aim Security EchoLeak প্রকাশ করে, যা প্রথম নথিভুক্ত জিরো-ক্লিক প্রম্পট ইনজেকশন যা একটি প্রোডাকশন AI সিস্টেম থেকে বাস্তব ডেটা এক্সফিল্ট্রেশন ঘটিয়েছে। একটি একক দূষিত ইমেইল Microsoft Copilot-কে কোনো ব্যবহারকারীর মিথস্ক্রিয়া ছাড়াই নীরবে সংবেদনশীল ডেটা প্রেরণ করতে বাধ্য করেছে। কাঠামোগত সমস্যাটি হলো পার্সিস্টেন্ট মেমরি এবং টুল-কলিং অ্যাক্সেস সহ AI সহকারীরা দুটি বিপজ্জনক বৈশিষ্ট্য একত্রিত করে। তারা সঞ্চিত ব্যক্তিগত প্রেক্ষাপট ধারণ করে এবং তাদের অবিশ্বস্ত বিষয়বস্তুতে এম্বেড করা নির্দেশাবলী মেনে চলতে বাধ্য করা যায়। সহকারী যে প্রতিটি নতুন ডকুমেন্ট, ইমেইল বা ওয়েবপেজ পড়ে তা একটি সম্ভাব্য ইনস্ট্রাকশন সারফেস। ব্যবহারকারী সহকারীকে যে মেমরি ধারণ করতে বিশ্বাস করেন এবং এটি বাহ্যিক বিষয়বস্তু থেকে যে নির্দেশাবলী অনুসরণ করে তার মধ্যে কোনো বিচ্ছিন্নতার সীমানা নেই, এবং বর্তমান স্যান্ডবক্সিং প্রস্তাবগুলো টুল কলগুলোকে সম্বোধন করে কিন্তু মেমরি রিড অ্যাক্সেসকে নয়।