一致不等于对齐：人类与 LLM 伦理判断中不同的道德依据

英文标题：Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments

该论文指出，以与人类判断结果的一致性来评估大型语言模型（LLM）对齐程度，是一种常见但不充分的做法。即使模型与人类给出相同的最终标签或结论，也不能证明双方依据了相同的道德理由。研究强调，两个主体可能得出一致判断，却建立在不同甚至相互冲突的道德基础之上。该观点提示开发者和行业在评估 AI 伦理对齐时，除关注结果一致性外，还应考察模型的推理依据与价值取向。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB