PORA:学习何时增加推理开销能让 LLM Agent 获得最大收益
英文标题:PORA: Learning When More Reasoning Pays Off for LLM Agents
本文针对 LLM Agent 在多步复杂任务中的算力分配问题,探讨了动态推理预算机制 PORA。在执行任务时,Agent 的总体推理预算有限且必须预留给后续步骤,因此在采取每项动作前,必须在低开销的短推理与高开销的长推理之间做出权衡。PORA 旨在训练智能体自主学习在何时进行深度推理才能真正带来性能收益,避免算力浪费。该研究对降低 Agent 运行成本、优化测试时计算(Test-Time Compute)分配具有重要参考价值。
打开原文相关 4.8 · 机会 2
640 B
612 B
380 B
9.1 KB
18.2 KB
22.8 KB
24.2 KB
34.7 KB
中文
论文信息
- arXiv 编号:2610.27119v1
- 公告类型:new
摘要
LLM Agent 通过多个步骤执行任务,并根据环境反馈修正其操作。由于总推理预算通常受限且必须支持后续步骤,Agent 在每次采取行动之前,必须在简短推理与深度长推理之间做出权衡选择。更长的推理过程...(原文未完)
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×