لماذا يُجوّع وكيلي الخلفي وكيل المستخدم المشارك له نفس البنية التحتية؟
الفرصة
حين يعمل عدة وكلاء ذكاء اصطناعي بالتزامن، بعضهم موجّه للمستخدم وبعضهم في الخلفية، يتنافسون على طاقة استدلال LLM ونوافذ السياق وحدود معدل API دون أي ترتيب للأولويات. تدرك جدولة البنية التحتية المعيارية موارد CPU والذاكرة لكنها لا تفهم دلالات أحمال عمل LLM: أي الطلبات تمثل سلاسل أدوات قيد التنفيذ، وأيها له آثار جانبية لا رجعة فيها، وأيها يمكن تعليقه واستئنافه بأمان. والنتيجة أن مهمة خلفية خارجة عن السيطرة تُجوّع استعلامًا حساسًا للتأخير من جانب المستخدم، والحل الوحيد اليوم هو ضبط حدود المعدل يدويًا لكل نشر. تقترح ورقة HiveMind نهجًا مستلهمًا من أنظمة التشغيل لكنه نموذج أولي بحثي دون أي تبنٍّ في الإنتاج ودون واجهة معيارية يمكن لأطر الوكلاء البناء عليها.
لماذا تهم
جدولة أحمال العمل الواعية بالوكلاء هي طبقة البنية التحتية المفقودة التي تجعل نشرات LLM متعددة المستأجرين قابلة للتنبؤ مثل أي نظام متعدد العمليات.
كيف أقيّم الفرصة
نقاط الفرصة هي قراءتي الشخصية لا قياس دقيق: مدى تأثير المشكلة، وتكرار مواجهتها، وشُح الحلول المتاحة لها اليوم. كلما ارتفعت النقاط، كان البناء في رأيي أجدر بالاهتمام.
مقدار الألم الذي تسببه حين تظهر.
مدى تكرار مواجهة الناس لها فعلياً.
مدى شُح الأدوات الجيدة المتاحة لها اليوم.
مزيد من المشكلات التي تستحق الحل
لماذا تنساني كل تطبيقات الذكاء الاصطناعي في اللحظة التي أغلق فيها التبويب؟
AIلماذا لا يزال تعلم مجال جديد رهيناً بمعرفة الأسئلة الصحيحة؟
AIلماذا لا يستطيع غير المتخصص التحقق مما أخبره به الذكاء الاصطناعي للتو؟
AIلماذا نختبر النماذج على المعايير القياسية ثم نطلقها بناءً على الحدس؟
AIلماذا لا تملك وكلاء الذكاء الاصطناعي ذاكرة لأخطائها الخاصة؟
AIلماذا لا يمكنني مراجعة ما تدرّب عليه النموذج فعلاً؟