2026年8月25日公告：资助提升AI对幸福感影响评估的项目

# 资助更好地评估人工智能对幸福感的影响 来源：https://www.anthropic.com/news/wellbeing-research-grants 我们正在启动一项500万美元的资助计划，旨在资助独立研究，探索人工智能如何影响用户的幸福感。该计划将为受助者提供直接资金、使用我们模型的机会以及技术支持，以帮助他们构建开源评估工具，助力人工智能行业衡量模型对使用者的影响。受助者将完全独立开展工作，并将研究成果以开源项目形式发布，供所有开发者使用。 人工智能系统已成为许多人工作、学习和解决问题的重要方式。它们也成为对话伙伴，甚至在困难时期能成为情感支持的来源（https://www.anthropic.com/news/how-people-use-claude-for-support-advice-and-companionship）。但作为行业，我们仍在努力制定明确的标准，以规范模型在这些对话中的行为——例如，当用户开始向模型寻求陪伴，或使用人工智能应对心理健康危机时。 此外，幸福感评估尤其困难。对于大多数模型行为，我们可以通过单个回答来判断其准确性和恰当性。但评估幸福感需要更多背景信息。例如，处于困境中的用户可能不会立即表达自伤念头；更谨慎回应的必要性可能只有在长时间对话中才会显现。而在一种情境下合理的回应，在另一种情境下可能造成伤害。例如，Claude可能会为询问减肥的用户提供均衡饮食和锻炼计划的建议，但如果用户有饮食失调的历史，这种回应就可能不恰当，甚至可能造成实际伤害。 我们努力开发保护措施（https://www.anthropic.com/news/protecting-well-being-of-users）以识别此类对话，并帮助确保Claude做出恰当回应。同时，我们发布研究（https://www.anthropic.com/research/claude-personal-guidance），分析人们与Claude对话的类型，以更好地指导我们如何开发和评估保护措施，以及采取哪些其他措施保护用户福祉。但这些是微妙且重大的考量。正确的方法需要随我们的模型及其应用场景的发展而演进。 通过资助创建独立的用户幸福感评估和基准测试，我们希望吸引更多专业人士为这一新兴关键领域贡献专长，包括临床医生、心理学家、方法学家等。 ## 推进更有效的幸福感评估与基准测试 作为该计划的一部分，我们分享了安全保障团队的指导（https://www-cdn.anthropic.com/files/4zrzovbb/website/5ecb637cb206057cb93cf4a9e72e843fda5e9892.pdf），阐述我们认为怎样的幸福感评估才足够严谨可靠，以及可能限制评估有效性的常见挑战。 简而言之，我们寻求的评估应满足以下条件： - 明确说明测量内容（即定义通过/未通过的标准及其重要性）； - 在设计和验证过程中纳入临床及领域专家； - 同时测试预防措施与潜在危害（即评估过度遵从和过度拒绝的风险）； - 反映用户的实际使用场景（通常需要构建模拟多轮对话的情境，其中风险和上下文在长时间交流中逐步演变）； - 通过真实领域专家验证评估结果。 了解资助计划详情及申请方式，请参阅申请表（https://docs.google.com/forms/d/e/1FAIpQLSfmUDtpfg-ztmQPkCbwx-VAe_urX48sthbqs8GmZUT9irRSDQ/viewform?usp=dialog）。如需获取构建可靠幸福感评估和基准测试的更多信息，请阅读指导文件（https://www-cdn.anthropic.com/files/4zrzovbb/website/5ecb637cb206057cb93cf4a9e72e843fda5e9892.pdf）。申请截止日期为9月21日；入围提交完整提案的申请人将于10月5日前收到通知。 ## 相关内容 ### Claude文本水印的工作原理 在本文中，我们针对关于所选水印方法如何运作、是否影响Claude输出以及为何进行这项变更等问题，分享了详细解答。 阅读更多（https://www.anthropic.com/news/claude-text-watermark） ### 优化Fable 5的生物安全防护 我们正在以显著降低误报率的方式，改进Claude Fable 5的生物安全防护。Fable 5用户现在将遇到更少的“回退”现象——即系统在用户进行生物相关查询后切换至性能较低模型的情况。 阅读更多（https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards） ### Mariano-Florentino (Tino) Cuéllar 将加入Anthropic担任全球事务首席官 Mariano-Florentino (Tino) Cuéllar 将加入Anthropic，担任首任全球事务首席官。 阅读更多（https://www.anthropic.com/news/tino-cuellar）