面向 LLM Agent 工具幻觉的封闭世界解析

英文标题：Closed-World Resolution Against Tool Hallucination in LLM Agents

该论文指出，工具增强型大语言模型（LLM）Agent 存在一种现有工具选择和工具安全方法未能充分解决的失败模式：调用并不存在的工具，或传入任何 schema 均未声明的参数。作者将这一问题称为工具幻觉，并提出以“封闭世界解析”加以应对。该研究对开发者构建更可靠、可验证的 Agent 工具调用链路具有参考意义。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB