面向 Agentic 反事实推理的基础模型蒸馏：混合 LLM 架构中的成本、延迟与治理

英文标题：Distilling Foundation Models for Agentic What-If Reasoning:Cost, Latency, and Governance in a Hybrid LLM䢳 Architecture

该论文探讨如何将基础模型蒸馏用于 Agentic 系统中的反事实（What-If）推理。摘要指出，表格基础模型可通过上下文学习实现无需训练的强预测性能，但较高的推理延迟使其难以作为交互式 Agent 循环中的热路径决策后端。作者以 TabPFN 作为教师模型开展蒸馏，旨在改善成本与延迟问题，并讨论混合 LLM 架构下的治理影响。原始材料仅提供了摘要片段，未包含具体蒸馏模型、实验结果或完整方法细节。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB