两种不确定性并非同一回事：低成本结构化内容审核中的分歧与决策风险
英文标题：Two Uncertainties Are Not One: Disagreement versus Decision-Risk in Cheap Structured Content Moderation
本文探讨了超大规模内容审核中将复杂且具争议的人类判断转化为二元决策（保留/下架）的核心挑战。针对在海量内容上直接运行前沿大语言模型（LLM）成本过高的问题，研究聚焦于一类新型、低成本且参数冻结的“系统一（System One）”模型。研究强调必须厘清“标注者分歧”与“系统决策风险”这两种不同维度的不确定性，为高性价比、高可靠性的 AI 内容安全架构设计提供了重要理论与实践指引。
打开原文相关 2.4 · 机会 0
2.0 KB
640 B
612 B
380 B
24.2 KB
34.7 KB
中文
arXiv:2610.33258v1 发布类型：新发布 (Announce Type: new)
摘要：内容审核需要在面对数十亿条内容的庞大规模下，将存在分级差异与主观争议的人类判断压缩为二元决策（保留 / 下架）。然而，在每篇帖子背后都运行前沿大语言模型（LLM）在经济效益上并不可行。一类新型冻结的“系统一”（System One）模型能够返回……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×