用会话感知负载均衡扩展实时 AI 智能体

实时 AI 智能体依赖长连接、有状态的双向流，使传统请求-响应式负载均衡无法反映服务器真实容量。开发者需在运行时内实现应用层会话追踪，准确统计活跃对话的并发负载，并将精确会话数与 CPU 利用率一并输入混合路由算法，从而有效分发有状态 AI 流量，避免单个后端成为瓶颈。