کوئی شخص میری خفیہ شدہ LLM ٹریفک دیکھ کر پھر بھی میرا سوال کیسے جان سکتا ہے؟
موقع
Whisper Leak، جو 2025 کے اواخر میں ظاہر ہوا، نے یہ ثابت کیا کہ خفیہ شدہ اسٹریمنگ LLM جوابات میں پیکٹ ٹائمنگ اور سائز کے نمونوں کا تجزیہ 28 بڑے فراہم کنندگان میں 98 فیصد سے زیادہ درستگی کے ساتھ پرامپٹ موضوعات کی درجہ بندی کرتا ہے۔ OpenAI اور Mistral سمیت کچھ فراہم کنندگان نے اصلاحات تعینات کیں، لیکن وہ تدابیر صرف ٹوکن لمبائی کے نمونوں کو حل کرتی ہیں۔ ایک علیحدہ حملہ سپیکولیٹو ڈی کوڈنگ کا استحصال کرتا ہے: ہر ڈی کوڈنگ مرحلے میں قبول کیے گئے ٹوکنز کی تعداد آؤٹ پٹ مواد کے ساتھ بدلتی ہے، اور یہ سگنل پیڈ شدہ کنکشنز سے بھی لیک ہوتا ہے کیونکہ پیڈنگ قبولیت کی شرح کے اتار چڑھاؤ کو ختم نہیں کرتی۔ ٹوکن بیچنگ جیسے تجویز کردہ دفاع حملے کی درستگی کو 50 فیصد کم کرتے ہیں لیکن اسے ختم نہیں کرتے، اور بے ترتیب پیڈنگ باقی ماندہ رساؤ کے ساتھ 8.7 گنا تک پے لوڈ اوور ہیڈ عائد کرتی ہے۔ کسی فراہم کنندہ نے سپیکولیٹو ڈی کوڈنگ ویریئنٹ کے لیے مکمل تدارک شائع نہیں کیا۔
اہمیت کیوں
ٹریفک لاگ کرنے والے نیٹ ورک سے اسٹریمنگ LLM سے سوال کرنے والا کوئی بھی صارف TLS خفیہ کاری سے قطع نظر اپنے سوال کا موضوع لیک کر رہا ہے، بشمول وہ صارفین جو سمجھتے ہیں کہ وہ طبی، قانونی، یا مالیاتی معاون کے ساتھ نجی طور پر بات کر رہے ہیں۔
میں موقع کا اسکور کیسے لگاتا ہوں
Opportunity Score میرا اپنا اندازہ ہے، کوئی پیمائش نہیں: یہ کتنا تکلیف دہ ہے، کتنی بار کاٹتا ہے، اور آج اسے حل کرنے کے لیے کتنا کم موجود ہے۔ زیادہ اسکور کا مطلب ہے کہ میرے خیال میں یہ بنانے کے زیادہ قابل ہے۔
جب یہ ظاہر ہوتا ہے تو کتنی تکلیف دیتا ہے۔
لوگ اصل میں اس سے کتنی بار واسطہ پاتے ہیں۔
آج اس کے لیے کتنے کم اچھے ٹولز موجود ہیں۔
حل کرنے کے قابل مزید مسائل
ہر AI ایپ ٹیب بند ہوتے ہی مجھے کیوں بھول جاتی ہے؟
AIکسی نئے شعبے کو سیکھنا ابھی تک یہ جاننے سے مشروط کیوں ہے کہ کیا پوچھنا ہے؟
AIایک غیر ماہر اس بات کی تصدیق کیوں نہیں کر سکتا جو AI نے ابھی بتائی؟
AIہم ماڈلز کو بینچ مارکس پر کیوں جانچتے ہیں لیکن انہیں محض اندازوں پر لانچ کرتے ہیں؟
AIAI ایجنٹوں کو اپنی غلطیوں کی یاد کیوں نہیں رہتی؟
AIمیں یہ آڈٹ کیوں نہیں کر سکتا کہ ماڈل کو دراصل کس چیز پر تربیت دی گئی؟