ایک زہر آلود دستاویز خاموشی سے وہ سب کچھ کیوں چرا سکتی ہے جو میرا اسسٹنٹ میرے بارے میں جانتا ہے؟
موقع
جون 2025 میں، Aim Security نے EchoLeak کا انکشاف کیا، جو ایک پروڈکشن AI سسٹم سے حقیقی ڈیٹا چوری کا باعث بننے والا پہلا دستاویزی زیرو-کلک پرامپٹ انجیکشن تھا۔ ایک واحد نقصاندہ ای میل نے Microsoft Copilot کو صارف کی کسی بھی مداخلت کے بغیر خاموشی سے حساس ڈیٹا منتقل کرنے پر مجبور کیا۔ بنیادی مسئلہ یہ ہے کہ مستقل میموری اور ٹول کالنگ تک رسائی رکھنے والے AI اسسٹنٹ دو خطرناک خصوصیات کو یکجا کرتے ہیں۔ وہ جمع شدہ ذاتی سیاق و سباق رکھتے ہیں اور انہیں غیر قابلِ اعتماد مواد میں شامل ہدایات پر عمل کرنے پر مجبور کیا جا سکتا ہے۔ اسسٹنٹ جو بھی نیا دستاویز، ای میل، یا ویب پیج پڑھتا ہے وہ ایک ممکنہ ہدایتی سطح بن جاتا ہے۔ صارف جس میموری پر اسسٹنٹ کا بھروسہ کرتا ہے اور بیرونی مواد سے آنے والی ہدایات کے درمیان کوئی علیحدگی کی حد موجود نہیں، اور موجودہ سینڈباکسنگ تجاویز ٹول کالز کو حل کرتی ہیں مگر میموری تک پڑھنے کی رسائی کو نہیں۔
اہمیت کیوں
ذاتی AI میموری ہر نقصاندہ دستاویز کو ایک ہدف شدہ ڈوزیئر-چوری حملے میں بدل دیتی ہے، یہ ایک نئی حملہ قسم ہے جس کا کوئی پختہ دفاع موجود نہیں۔
میں موقع کا اسکور کیسے لگاتا ہوں
Opportunity Score میرا اپنا اندازہ ہے، کوئی پیمائش نہیں: یہ کتنا تکلیف دہ ہے، کتنی بار کاٹتا ہے، اور آج اسے حل کرنے کے لیے کتنا کم موجود ہے۔ زیادہ اسکور کا مطلب ہے کہ میرے خیال میں یہ بنانے کے زیادہ قابل ہے۔
جب یہ ظاہر ہوتا ہے تو کتنی تکلیف دیتا ہے۔
لوگ اصل میں اس سے کتنی بار واسطہ پاتے ہیں۔
آج اس کے لیے کتنے کم اچھے ٹولز موجود ہیں۔
حل کرنے کے قابل مزید مسائل
ہر AI ایپ ٹیب بند ہوتے ہی مجھے کیوں بھول جاتی ہے؟
AIکسی نئے شعبے کو سیکھنا ابھی تک یہ جاننے سے مشروط کیوں ہے کہ کیا پوچھنا ہے؟
AIایک غیر ماہر اس بات کی تصدیق کیوں نہیں کر سکتا جو AI نے ابھی بتائی؟
AIہم ماڈلز کو بینچ مارکس پر کیوں جانچتے ہیں لیکن انہیں محض اندازوں پر لانچ کرتے ہیں؟
AIAI ایجنٹوں کو اپنی غلطیوں کی یاد کیوں نہیں رہتی؟
AIمیں یہ آڈٹ کیوں نہیں کر سکتا کہ ماڈل کو دراصل کس چیز پر تربیت دی گئی؟