英伟达Vera CPU测试显示AI智能体编排性能提升，支持高并发推理
英文标题：英伟达Vera CPU测试显示AI智能体编排性能提升，支持高并发推理
英伟达7月21日表示，AI云平台DeepInfra测试显示，Vera CPU相比其他CPU产品，在AI智能体工作负载下可实现最高2.2倍编排速度提升，并支持最高1.6倍更多智能体并发运行。DeepInfra表示，其平台每周处理近5万亿Token，其中约30%来自智能体应用。英伟达称，随着AI智能体承担更多推理、规划和工具调用任务，CPU在模型调用过程中的调度效率将成为AI基础设施性能的重要因素。（界面）
打开原文相关 4.5 · 机会 0
6.6 KB
79.2 KB
28.6 KB
81.2 KB
中文
推送和解读前沿、有料的科技创投资讯
一级市场金融信息和系统服务提供商
聚焦全球优秀创业者，项目融资率接近97%，领跑行业
English / 原文
推送和解读前沿、有料的科技创投资讯
一级市场金融信息和系统服务提供商
聚焦全球优秀创业者，项目融资率接近97%，领跑行业