英特尔：扩展智能体不只看token——关键是密度
英特尔对数千个企业ai工作负载的基准测试显示，对于生产部署而言，衡量智能体密度（每vcpu智能体数）比原始推理速度更重要。
英特尔分析了数千个使用终端基准测试（terminal-bench）的扩展版本的自主 AI 工作负载实验，该工具为开源性能分析工具，以确定企业成功取决于将代理视为系统问题而不仅仅是推理问题。研究确定代理密度（每个虚拟 CPU 的代理数量）是容量规划的主要指标，取代简单的代理数量，并强调监测任务延迟而不是平均 CPU 利用率。这些发现表明，企业只能通过实施严格的可观察性和内存管理来可靠地扩展代理，而不仅仅是评估底层大型语言模型（LLM）。为了管理和控制成本，操作员应默认采用横向扩展架构，同时保留纵向扩展以应对特定的计算密集型约束。