AutoData:用于预训练数据选择的智能体搜索
英文标题:AutoData: Agentic Search for Pre-training Data Selection
论文提出 AutoData,将大语言模型 Agent 引入预训练数据选择环节,以自动化数据筛选与优化。作者指出,LLM Agent 已能在执行反馈的帮助下编辑模型和训练代码,但数据仍大多未被纳入这一智能体优化闭环。该工作将预训练数据选择建模为一个可由 Agent 搜索和优化的问题,对降低数据工程成本、提升预训练数据质量具有潜在意义。论文发表于 arXiv:2609.19754v1,类型为新投稿。
打开原文相关 3.2 · 机会 2
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×