CausalDS:为数据科学智能体量身打造的因果推理基准
英文标题:CausalDS: Benchmarking Causal Reasoning in Data-Science Agents
CausalDS 是首个面向集成数据科学智能体的因果推理基准,弥补了现有基准要么只关注没有真实数据的符号因果推理、要么不评测智能体工具使用与因果推理结合的空白。该基准要求智能体在真实数据分析流程中完成因果发现、效应估计及反事实预测等任务,结果显示当前顶尖模型与人类表现差距明显。这项工作为评估和提升数据科学场景下 LLM 智能体的因果推理能力提供了关键标尺。
640 B
612 B
380 B
9.1 KB
22.8 KB
24.2 KB
34.7 KB
中文
CausalDS:为数据科学智能体量身打造的因果推理基准
大型语言模型正逐渐演化为集成数据科学智能体,将抽象因果推理与高级工具使用能力融为一体。然而,现有的因果推理基准大多割裂了这两个层面:一类是只涉及符号逻辑、脱离真实数据的因果推理测试;另一类则未能充分考察智能体如何在真实数据分析流程中调用工具完成因果任务。为填补这一缺口,研究者提出了 CausalDS,一个专门用于评估数据科学智能体因果推理能力的基准。
摘要
大型语言模型(LLMs)正在越来越多地充当集成数据科学智能体,将抽象推理与高级工具使用相结合。然而,相关的基准测试领域在很大程度上划分为两大块:没有真实数据的符号因果推理基准,以及不要求智能体进行工具使用与因果推理集成的数据分析基准。本文介绍 CausalDS,首个在真实数据分析任务中联合评估智能体因果推理与工具使用能力的基准。CausalDS 包含多种数据集和任务,要求智能体执行因果发现、因果效应估计、反事实预测等操作。我们使用该基准评测了当前最先进的数据科学智能体,发现它们在处理复杂因果推理时仍面临巨大挑战,与人类水平之间存在显著差距。CausalDS 为构建和评估具备稳健因果推理能力的新一代数据科学智能体提供了重要参考。
BibTeX 格式化引用
bibtex @misc{causalds2026, title = {CausalDS: Benchmarking Causal Reasoning in Data-Science Agents}, author = {Authors}, year = {2026}, eprint = {arXiv:2607.08093}, archivePrefix = {arXiv}, primaryClass = {cs.AI} }
该基准的出现,标志着因果推理评估从纯符号测试走向真实数据科学流程,对希望构建可信、可解释 AI 系统的开发者与研究人员具有重要参考价值。
English / 原文
BibTeX formatted citation
×