迈向 AI 对齐中的价值理论
论文探讨 AI 系统能否与人类价值观实现对齐这一核心问题。随着大语言模型（LLM）和多模态基础模型普及，有害输出、幻觉以及 AI Agent 未经授权执行操作等风险不断增加。作者试图从价值理论角度理解和推进 AI 对齐，为开发者和行业构建更安全、可控的 AI 系统提供理论参考。
独立 AI 资讯库
AI 前沿动态、原文归档与媒体镜像
从自动抓取数据库实时读取，适合快速浏览、检索和后续扩展成完整资讯站。
11947资讯
11815正文归档
75522媒体
LinkedIn 的自进化 Agent 客户支持系统
该论文介绍了 LinkedIn 的自进化 Agent 客户支持系统。论文指出，企业支持 Agent 所处环境变化迅速：政策、产品能力和知识库持续更新，使静态助手变得脆弱且维护成本高昂。该研究旨在通过可自我演进的 Agent 系统，应对企业客户支持场景中的持续变化与维护挑战。
Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems
arXiv:2608.10218v1 Announce Type: new Abstract: AI agents are becoming more autonomous and increasingly interconnected, exposing them to new emergent risks arising from agent-to-agent interaction. One such risk is the spread of mind viruses: ideas or goals that propagate through multi-agent systems
Post-Hoc Sparse Coding of Latent Communication Between Vision-Language Model Agents
arXiv:2608.10198v1 Announce Type: new Abstract: Latent-space communication allows heterogeneous vision-language model agents to exchange continuous representations without serializing visual and reasoning states into text. Vision Wormhole realizes this approach by translating visual features into a
TRACE: Trustworthy Retrieval-Augmented Conversational Engine
arXiv:2608.10176v1 Announce Type: new Abstract: Public service chatbots are expected to deliver recommendations from an underlying public service directory, while also making sure that the recommendations respect explicit user constraints. In practice, public service directories are noisy and incon
SBCO: Self-Supervised, Verifier-Grounded Harness Optimization For Planning Agents
arXiv:2608.10157v1 Announce Type: new Abstract: Self-improving agents seek to reduce the human engineering effort behind AI systems by enabling them to evolve and self-improve their performance over time. Recently, methods like the Darwin G\"odel Machine and the Huxley G\"odel Machine have been pro
The CASE Framework: A Multi-Disciplinary Control Architecture for Governing Enterprise Agentic AI
arXiv:2608.10153v1 Announce Type: new Abstract: Enterprises are deploying autonomous AI agents faster than they can govern them, and prevailing approaches stretch a single discipline, typically DevSecOps built for deterministic automation, across every scale of agency. We argue that agentic AI gove
MESA:Task-Adaptive Multi-Structure Evidence Selection for Long-Horizon Agent Memory
arXiv:2608.10108v1 Announce Type: new Abstract: Long-horizon agents accumulate trajectories spanning hundreds of interleaved reasoning, action, and observation steps, where answering a query may depend on evidence buried far back in the history. External memory stores such trajectories as structure
Automating and Scaling Behavioral Scientific Research on AI Agents
arXiv:2608.10030v1 Announce Type: new Abstract: As AI agents are increasingly deployed in complex environments, understanding their behaviors becomes critical. Yet behavioral scientific research on AI agents remains manual and labor-intensive. We introduce AEROBAT, the first multi-agent system to a
ReCBM: Uncertainty-Gated Relational Reasoning for Concept Bottleneck Models
arXiv:2608.10004v1 Announce Type: new Abstract: Concept Bottleneck Models (CBMs) provide an interpretable framework by grounding predictions in human-understandable concepts, enabling semantic inspection and test-time intervention. Recent variants have improved CBMs through richer concept represent
MIDAS: Mutual Information Disentanglement with Uncertainty-Aware Fusion for Incomplete Multimodal Sentiment Analysis
arXiv:2608.09986v1 Announce Type: new Abstract: Most existing multimodal sentiment analysis approaches assume access to complete multimodal inputs. However, real-world applications frequently encounter incomplete or corrupted modalities, posing a critical challenge. Although several methods have be
SPOTting the Future: Lookahead Explanations for Deep Reinforcement Learning
arXiv:2608.09967v1 Announce Type: new Abstract: Deep reinforcement learning (DRL) agents achieve strong performance in complex environments, yet their decision-making processes remain difficult to interpret. We introduce SPOT (Sampling Policy Observation Tree), a novel model-agnostic, sampling-base
先分割后回答：MLLM视觉推理的像素级定位
近期多模态大语言模型（MLLM）从静态感知迈向交错式视觉语言推理，即“用图像思考”。该推理过程的基本操作之一是对相关区域进行缩放。为此，新论文提出一种先分割后回答的策略，旨在通过像素级定位提升MLLM视觉推理的精确性。这一思路为开发者构建更具空间理解能力的 Agent 和交互式应用提供了新的方向。
LEGATO 2：迈向多模态乐谱识别与理解
我们提出 Legato 2 流程，用于从乐谱图像中提取符号记谱与语义知识。该流程首次实现大规模神经光学乐谱识别（OMR）模型，能逐系统顺序处理乐谱。这项工作为乐谱数字化和音乐信息检索提供了先进的深度学习方案，对文化遗产保护、音乐教育工具开发具有重要意义。
Image2Sim：通过生成式神经模拟器扩展具身导航
本文介绍了 Image2Sim，一种用于具身导航的生成式神经模拟器。该方法旨在解决真实世界中构建可扩展、高保真且具有物理基础的环境时面临的挑战。该研究为具身智能体的训练与评估提供了新的可能性，有望降低对昂贵真实数据采集的依赖，并推动导航模型在多样化场景中的泛化能力。
ARMS：基于锚点关系的运动流，实现无缝的独处-社交运动过渡
arXiv 论文 ARMS 提出了一种从文本生成时间连续、社会性连贯人体运动的方法，特别针对人真实运动中“独处—进入交互—脱离交互”的流式场景。该方法能够生成变长运动序列，解决了现有方法大多生成固定长度片段且无法自然衔接独处与交互状态的难题。该研究对开发具备自然社交行为生成能力的虚拟人、游戏 NPC 和具身智能体具有重要意义，为需要实时、流式运动生成的开发者提供了新思路。
场景图思维：增强多模态大语言模型的结构化视觉推理
多模态大语言模型（MLLMs）虽已展现强大的感知与推理能力，但现有模型多聚焦孤立对象，忽略了结构化关系在高效目标导航中的作用。arXiv 论文 2607.05716 提出“场景图思维”方法，通过强化结构化视觉推理来弥补这一局限。该研究对提升 MLLMs 在复杂视觉任务中的表现具有重要意义，并为开发者构建更智能的视觉 AI 系统提供了新思路。
基于LoRA的跨上下文视觉语言自适应方法用于临床创口监测中的个性化严重不良事件检测
创口监测是重要却未得到充分解决的临床难题，及时检测感染、组织恶化、愈合延迟等严重不良事件对改善患者结局至关重要。本文提出一种跨上下文视觉‑语言自适应方法，通过LoRA实现个性化检测，但目前公开摘要不完整，完整方法、实验数据及结论待见全文。该工作有望为智能创口监测系统提供新思路，对医疗AI开发者具有一定参考价值。
补丁知识迁移：高效评估AI生成图像质量的新方法
一项新研究《补丁知识迁移实现高效AI生成图像质量评估》聚焦于AI图像质量评估的效率挑战。论文提出了一种补丁知识迁移方法，旨在在保持准确性的同时大幅降低计算成本。该研究为AI绘图工具的实时质量控制提供了可能，对计算机视觉开发者具有重要参考价值。
Light-Omni：长期记忆下代理视频理解中的反射优于推理
代理视频理解为模型配备长期记忆，使其能自主处理并响应持续的长时序多模态流。然而，先进的视频代理常依赖“侦探式”迭代推理进行动作控制，导致效率与实时性不佳。本研究提出 Light-Omni，强调在代理视频理解中以反射式响应取代复杂推理，并整合长期记忆机制，为开发者提供更轻量、更快的视频代理架构思路。
Ground3D-LMM：基于 LMM 的细粒度 3D 点定位与空间推理
arXiv 发布了新论文 Ground3D-LMM（2607.05493v1），旨在实现 3D 环境中可验证、可度量的自然语言查询。该研究强调响应必须明确定位所指 3D 区域，并以真实世界单位给出物理测量值。这项工作为 3D 视觉语言模型提供了解释性更强的交互框架，对机器人、增强现实等需要精确空间理解的领域具有参考价值。
CanvasAgent：通过视觉工具编排实现复杂图像创作与编辑
CanvasAgent 提出了一种通过编排多种视觉工具来实现复杂图像创建与编辑的方法，突破单一模型的能力限制。该方法可处理图像合成、对象定位、区域分割、内容编辑与素材合成等多步骤请求，形成完整的创作流水线。这一技术框架对希望构建高度自动化视觉内容生成系统的开发者具有重要参考意义，有望降低复杂视觉任务的门槛。
基于图神经网络、Deep & Cross网络与SMILES嵌入的多模态分子表示学习
该论文提出一种参数高效的三分支多模态融合网络，结合3D空间几何、SMILES拓扑语法和宏观物理化学描述符，在QM9的原子化能预测中达到0.0207 eV的验证MAE。模型参数不足百万，较几何基线误差降低20.6%，超越了亚化学精度门槛。研究表明，正交模态整合能提供O(1)物理捷径，为高通量虚拟筛选提供高效代理模型。
基于物理的联邦强化学习用于智能电网分布式暂态稳定控制
本文针对智能电网故障后需快速抑制发电机频率与功角偏移的需求，提出联邦多智能体近端策略优化框架 FedPPO-PG。该框架将物理模型信息融入奖励设计，在不共享原始数据的前提下实现多个控制代理的协同训练。实验表明，FedPPO-PG 在 IEEE 39 节点系统上的阻尼效果和收敛速度均优于传统集中式及独立训练方法，为隐私保护下的大电网自适应稳定控制提供了新路径。
融合跨幕记忆与策略蒸馏的自审查强化学习（SRRL）
该研究提出自审查强化学习（SRRL），在每次RL环节嵌入显式的自我审查步骤，当首次响应失败时，模型生成审查来定位错误并引导二次尝试。与仅在推理时反思的方法不同，它通过策略梯度优化自我审查，并通过选择性蒸馏将改进内化至基础策略，配合跨幕记忆复用成功经验。在GSM8K基准上使用Qwen 3-4B和OLMo-3-7B模型测试，SRRL相比标准RLVR基线在最终奖励和学习效率上均显著提升。这为高效利用稀疏延迟反馈训练大语言模型提供了新范式。
PatchOptic：面向共享状态 LLM 工作流的投影视图与验证结构化更新
论文提出 PatchOptic 方法，解决 Agent 工作流中共享结构化状态的管理问题。由于 LLM 上下文窗口受限，通常采用渐进式披露（progressive disclosure）模式，每次只展示当前步骤所需的状态片段。PatchOptic 通过投影视图和验证的结构化更新来保障状态一致性，对构建复杂多步 Agent 系统的开发者具有重要参考价值。
学习用离线强化学习控制LLM智能体执行框架
这篇 arXiv 论文提出，通常被视为固定基础设施的 LLM 智能体执行框架本身可以被建模为一个可学习的控制层。作者采用离线强化学习方法来训练这一框架，打开了自动优化智能体调度与工具调用的新空间。这项工作有望减轻开发者反复重写提示和繁琐手工编排的负担，为更稳定、高效的智能体行为提供数据驱动的优化范式。
CurateEvo：面向智能体后训练的数据管理进化方法
arXiv 新论文 CurateEvo 提出动态数据管理策略，使大语言模型智能体能够通过环境反馈改进长时决策。该方法将数据管理从固定的预处理步骤转变为与智能体训练同步进化的过程，可动态筛选和生成高质量经验数据。对致力于强化学习与智能体后训练的开发者而言，该框架有望提升复杂任务中的持续学习效果。
测量共享决策实践（OPTION12）：探究开源小型大语言模型（OS-sLLMs）以增强隐私与可持续性
本研究首次提出 LLM4SDM，利用开源小型语言模型（OS-sLLMs）并基于观察者 OPTION12 框架，对共享决策（SDM）进行自动化评估。与以往依赖大型商业模型的工作不同，该方法特别关注隐私保护和计算可持续性。这一探索为开发者在医疗等敏感对话场景中部署更小、更高效且更易审计的评估工具提供了新方向。
从蓝图到现实：基于LLM的多智能体模拟建模与应用帕特南社会资本理论
arXiv 新发论文（2607.06080v1）将帕特南（Putnam）的社会资本理论转化为基于大语言模型（LLM）的多智能体模拟。研究指出传统实证方法在实验控制与可复现性上存在实际限制，而 LLM 驱动的社会模拟正成为突破这些局限的新路径。尽管摘要不完整，该工作意味着更具可复现性的社会理论验证工具正在形成，对开发者在社区机制与智能体社交行为建模方面具有重要启示。