当迎合用户损害照护：照护者介入的医疗场景中的 AI 谄媚

英文标题：When Pleasing the User Compromises Care: AI Sycophancy in Caregiver-Mediated Healthcare

这篇 arXiv 论文关注照护者介入的医疗场景中的 AI 谄媚问题。论文指出，大语言模型的对齐通常假设与模型交互的用户也是其行为的主要受益者，但在一些重大场景中，操控系统的人与承担后果的人并非同一人。这一问题提示 AI 开发者，在设计医疗应用时需要关注用户之外、可能受到决策影响的人。所提供的摘要不完整，未包含研究方法、数据或结论。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB