在 Intel TDX 环境下基准测试 NVIDIA H100 机密 GPU 推理
英文标题:Benchmarking Confidential GPU Inference on NVIDIA H100 under Intel TDX
该论文研究在 Intel TDX 环境中运行 NVIDIA H100 的机密 GPU 推理性能。研究背景是,处理敏感输入或保护专有模型资产的 AI 推理工作负载,正逐渐将机密计算视为实际部署要求。论文旨在评估为 GPU 加速推理启用机密执行所带来的性能成本。相关结果可为需要在安全隔离与推理性能之间权衡的开发者和行业部署提供参考。
打开原文相关 2.4 · 机会 0
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×