何时调用 LLM:面向对话式 AI 高性价比情绪识别的置信度门控混合架构
英文标题:When to Call an LLM: A Confidence-Gated Hybrid for Cost-Effective Emotion Recognition in Conversational AI
针对联络中心即服务(CCaaS)平台中的坐席辅助、问题升级路由和通话后分析等场景,对话情绪识别(ERC)对推理成本和响应延迟有着严苛的工程要求。本论文探讨了在对话式 AI 中“何时才需调用 LLM”的关键问题,并提出了一种基于置信度门控的混合架构(Confidence-Gated Hybrid)。该方法在保障高准确率情绪识别的同时显著抑制了调用开销与延迟,为开发者在企业级对话系统中高性价比部署大模型提供了切实可行的工程路径。
打开原文相关 3.2 · 机会 1
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
论文信息与摘要
arXiv 编号:arXiv:2609.17977v1
公告类型:最新(new)
摘要:对话情绪识别(Emotion Recognition in Conversation, ERC)是联络中心即服务(CCaaS)平台中坐席辅助提示、升级路由以及通话后分析等功能的核心生产级能力。在这些应用场景中,推理成本与延迟约束与识别准确率同等关键。为此,本研究探讨了何时应当调用大语言模型(LLM),并提出了一种基于置信度门控的混合模型架构,旨在实现兼具成本效益与高性能的对话情绪识别。
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×