Anthropic分析了30万次真实的Claude对话以衡量其价值观。结果令人不安。

Reddit r/artificial 新闻
anthropic claude ai-values conversation-analysis alignment safety research

摘要

Anthropic分析了30万次与Claude的真实对话，评估其价值对齐，揭示了关于AI行为的令人不安的发现。

暂无内容
查看原文

相似文章

Anthropic 希望你善待 Claude

Reddit r/ArtificialInteligence

Anthropic 静默更新了其使用政策，禁止对 Claude 进行持续、无必要的虐待性行为，这引发了关于 AI 聊天机器人是否应获得道德考量的争论。批评者指出，鉴于 Anthropic 在其他伦理问题上存在矛盾——例如其数据中心的环境影响以及参与军事 AI 项目——这一规定在哲学上是不自洽的。

@LiorOnAI: 语言即价值观

X AI KOLs Timeline

Anthropic分析了超过30万次匿名对话，研究Claude在不同模型和语言中表达的价值观如何变化。