标签
一篇 Hugging Face 与 Data & Society 合作的立场论文，指出当前 AI agent 设计中的人工监督（HITL）不仅因工作量与复杂度难以有效执行，还会导致监督者技能退化，呼吁在设计与组织层面同等重视监督者的认知需求。
《自然医学》上一项由MIT主导的新研究发现，AI辅助和可解释性方法对皮肤病诊断准确率的影响因用户专业水平而异：非专家过度信任AI解释，而临床医生仅在模型预测（无解释）时表现最佳。结果凸显了考虑自动化偏见的以用户为中心的AI设计之必要性。
本文认为，AI最大的风险并非幻觉，而是人类验证能力的逐渐退化，最终导致一个无法质疑AI输出的文明。
一篇思想文章，指出随着AI变得更准确，人类监督可能会退化为例行批准，从而产生'信任-监督悖论'，即高性能AI仍可能因不完整的表征、过时数据或自动化偏见而失败，建议从人工审查转向治理边界。