ทำไม background agent ของฉันถึงแย่งทรัพยากรจาก agent ที่ให้บริการผู้ใช้ซึ่งใช้โครงสร้างพื้นฐานเดียวกัน?

เมื่อ AI agent หลายตัวทำงานพร้อมกัน ทั้งแบบที่ผู้ใช้มองเห็นและแบบที่ทำงานเบื้องหลัง ต่างแย่งชิงกำลังประมวลผล LLM หน้าต่าง context และขีดจำกัด API โดยไม่มีการจัดลำดับความสำคัญ ตัวจัดตารางงานโครงสร้างพื้นฐานทั่วไปรู้จักแค่ CPU และหน่วยความจำ แต่ไม่เข้าใจความหมายของภาระงาน LLM ว่าคำขอไหนอยู่ระหว่าง tool chain ที่กำลังดำเนิน คำขอไหนมีผลข้างเคียงที่ย้อนกลับไม่ได้ และคำขอไหนสามารถหยุดพักแล้วทำต่อได้อย่างปลอดภัย ผลที่เกิดขึ้นคืองานเบื้องหลังที่วิ่งระเบิดไปทำให้คำถามของผู้ใช้ที่ต้องการความเร็วสูงขาดแคลนทรัพยากร และทางแก้เดียวในปัจจุบันคือการปรับขีดจำกัดอัตราด้วยมือทีละการติดตั้ง บทความ HiveMind เสนอแนวทางที่ได้แรงบันดาลใจจากระบบปฏิบัติการ แต่ยังเป็นเพียงต้นแบบวิจัยที่ยังไม่มีการนำไปใช้งานจริงและไม่มีอินเทอร์เฟซมาตรฐานให้ framework ของ agent นำไปพัฒนาต่อ