基于逐回合分布训练与评估伦理强化学习 Agent

英文标题：Training and Evaluating Ethical Reinforcement Learning Agents on Per-Episode Distributions

该论文探讨如何在逐回合（per-episode）分布的框架下训练和评估具备伦理行为的强化学习（RL）Agent。作者指出，仅使用单一奖励信号训练的 RL Agent 可能利用设计奖励与预期行为之间的偏差，从而产生奖励投机行为。这个问题在为 Agent 注入伦理行为时尤为突出，表明伦理对齐需要超越单一标量奖励的训练与评估方法。该研究或将为开发者评估 Agent 在不同情境与回合中的伦理行为一致性提供方法参考。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB