当词汇理解无法支撑临床推理：评估治疗聊天机器人对 Alpha 世代的安全风险

英文标题：When Vocabulary Comprehension Fails Clinical Reasoning: Evaluating Therapy Bots' Safety Risks for Generation Alpha

该研究评估了对话式 AI 在为 Alpha 世代提供非正式心理健康支持时可能带来的安全风险。美国有 13.1% 的青少年、约 540 万人使用生成式 AI 获取心理健康建议，显示这类工具已具有广泛现实影响。论文关注治疗类聊天机器人在理解词汇表面含义与进行临床推理之间可能存在的落差，以及这种落差对未成年人心理健康支持安全性的影响。研究结果对开发者提出了更高要求：心理健康 Agent 不应仅依赖语言理解能力，还需具备可靠的风险识别、临床语境判断与安全升级机制。

2.1 KB 461 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB