快速分叉：高效估计文本生成中的不确定性动态

英文标题：Forking Fast: Efficiently Estimating Uncertainty Dynamics in Text Generation

该论文关注大语言模型推理过程的随机性，以及同一问题可能产生的多种推理链所构成的不确定性分布。论文指出，基于重采样的分析方法可用于刻画这一分布，并揭示模型生成过程中的不确定性特征。其研究对需要评估模型推理稳定性、可靠性与输出多样性的开发者和研究人员具有参考价值。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB