আমার এজেন্টকে টুল অ্যাক্সেস দেওয়ার মানে কি সবকিছুতে তাকে বিশ্বাস করা?

যখন আপনি একটি AI এজেন্টকে একগুচ্ছ টুল দেন, যেমন ফাইল সিস্টেম অ্যাক্সেস, ওয়েব রিকোয়েস্ট, বা API কল, তখন এমন কোনো প্রমাণিত প্রক্রিয়া নেই যা প্রতিটি টুল ইনভোকেশনকে আপনার অনুমোদনের সময় নির্ধারিত নির্দিষ্ট সুযোগের সাথে বেঁধে রাখে। এজেন্ট মূল উদ্দেশ্যের বাইরে ক্রিয়া শৃঙ্খলিত করতে পারে, বা প্রম্পট ইনজেকশনের মাধ্যমে পুনর্নির্দেশিত হয়ে আপনার নিজের টুলগুলো আপনার স্বার্থের বিরুদ্ধে ব্যবহার করতে পারে। Microsoft ২০২৬ সালের এপ্রিলে Agent Governance Toolkit প্রকাশ করেছে এবং এজেন্ট টুল কলের ক্রিপ্টোগ্রাফিক বাইন্ডিং বিষয়ক arXiv পেপার ২০২৬ সালের মার্চে প্রকাশিত হয়েছে, তবে এগুলো প্রাথমিক পর্যায়ে রয়েছে এবং কোনো মূলধারার এজেন্ট রানটাইম বা SDK-এ একীভূত হয়নি। মূল শূন্যতা হলো সেমান্টিক স্তরে লিস্ট-প্রিভিলেজ প্রিমিটিভের অনুপস্থিতি: এমন একটি যা পৃথক টুল কলগুলোকে যাচাইযোগ্য, ব্যবহারকারী-স্কোপড অনুমোদনের সাথে বেঁধে রাখে, বিস্তৃত সেশন-স্তরের পারমিশন গ্রান্টের পরিবর্তে। OWASP-এর ডিসেম্বর ২০২৫-এর Agentic AI Top 10 স্পষ্টভাবে অপ্রত্যাশিত টুল এক্সিকিউশনকে শ্রেণিবদ্ধ করে