ConMem：用于解决大模型记忆未对齐的反事实多场景探测机制

英文标题：ConMem: Counterfactual Multi-Scenario Probing for Resolving LLM Memory Misalignment

长期记忆对于执行多会话、长周期任务的自主大语言模型（LLM）Agent 至关重要。然而，现有的记忆系统往往存在不当存储、过度保留或错误检索等问题，容易引发过度泛化、错误归因及隐私敏感信息泄露等“记忆未对齐”风险。为此，研究团队提出 ConMem，利用反事实多场景探测机制来检测并解决此类记忆偏差。该方法为构建高可靠性、高安全性的长期记忆 Agent 提供了关键技术参考。

打开原文相关 4.8 · 机会 1

中文

ConMem：用于解决大模型记忆未对齐的反事实多场景探测机制

论文编号：arXiv:2610.33432v1
发布类型：最新公告（Announce Type: new）

摘要

长期记忆能力对于执行跨会话、长周期任务的自主大语言模型（LLM）Agent 至关重要。然而，现有的记忆机制往往会不当地存储、保留或检索存在过度泛化、归因错误或涉及隐私敏感的信息，进而导致严重的记忆未对齐（Memory Misalignment）问题。ConMem 提出了通过反事实多场景探测的方法，针对性地识别并校准 Agent 记忆系统中的偏差，以保障模型长期交互的安全性与准确性。

ConMem：用于解决大模型记忆未对齐的反事实多场景探测机制

中文

ConMem：用于解决大模型记忆未对齐的反事实多场景探测机制

摘要

English / 原文

BibTeX formatted citation