cognitive-alignment

这篇立场论文认为，用于高风险决策的AI系统应以与其用户相似的方式进行推理，并忠实地传达这种推理，同时概述了实现这种“认知对齐AI”的研究议程。

本文研究了五个开放权重的大型语言模型在回指消解中是否表现出对心理语言学因素的人类类似敏感性，使用惊奇度和理解准确率作为行为指标。结果显示选择性认知对齐：一些模型在回指消解中匹配了人类的话语敏感性，但对语义干扰效应的敏感性较弱或缺失。

提出认知相对策略优化（CRPO），一种用于对齐大语言模型在心理健康评估中推理的强化学习框架，在加权F1分数上比现有基线平均提高10.4个百分点。