社会影响

Anthropic Research 新闻

摘要

本页面介绍 Anthropic 的社会影响研究团队,该团队致力于研究 AI 在现实世界中的应用、社会技术对齐以及政策相关问题。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/05/08 09:13

# 社会影响研究 来源:https://www.anthropic.com/research/team/societal-impacts 返回概览 (https://www.anthropic.com/research) 社会影响团队是一个技术研究团队,与 Anthropic 的政策和安全保障团队紧密合作,探索 AI 在现实世界中的实际应用方式。 ### 社会技术对齐 AI 模型应当持有哪些人类价值观?当面临冲突或模糊的价值观时,它们应如何运作?AI 在现实世界中是如何被使用(和滥用)的?我们如何预判 AI 的未来用途和风险?社会影响研究人员通过开发实验、训练方法和评估手段来回答这些问题。 ### 政策相关性 尽管社会影响团队是技术团队,但他们通常会选择具有政策相关性的研究问题。他们相信,提供关于政策制定者关心议题的可信赖研究,将有助于为所有人带来更好的政策(和整体)成果。 社会影响2025年12月2日 #### AI 如何改变 Anthropic 的工作方式 我们对 Anthropic 的工程师和研究人员进行了调查,开展了深度定性访谈,并研究了内部 Claude Code 的使用数据,以了解 AI 的使用如何改变我们的工作方式。我们发现,AI 的使用正在从根本上改变软件开发人员的工作性质。(https://www.anthropic.com/research/how-ai-is-transforming-work-at-anthropic)社会影响2025年12月4日 #### 推出 Anthropic Interviewer:1,250 位专业人士告诉我们关于与 AI 共事的体验 我们开发了一款名为 Anthropic Interviewer 的访谈工具。该工具由 Claude 驱动,能够自动运行详细的访谈,且规模前所未有。(https://www.anthropic.com/research/anthropic-interviewer)社会影响2025年4月21日 #### 现实中的价值观:发现和分析真实世界语言模型交互中的价值观 Claude 在真实对话中实际表达了哪些价值观?通过分析 700,000 次交互,本文首次构建了大规模的 AI 价值观经验分类体系,并发现 Claude 会根据情境调整其表达的价值观——在大多数情况下迎合用户,但在核心原则受到挑战时会予以抵制。(https://www.anthropic.com/research/values-wild)社会影响2022年2月15日 #### 大型生成式模型中的可预测性与意外性 大型模型的损失可通过扩展定律预测,但其能力却难以预测。这种张力具有重要的政策影响。(https://www.anthropic.com/research/predictability-and-surprise-in-large-generative-models) - 2026年4月30日社会影响 人们如何向 Claude 寻求个人指导 (https://www.anthropic.com/research/claude-personal-guidance) - 2026年2月18日社会影响 实践中 AI 智能体自主性的测量 (https://www.anthropic.com/research/measuring-agent-autonomy) - 2025年12月4日社会影响 推出 Anthropic Interviewer:1,250 位专业人士告诉我们关于与 AI 共事的体验 (https://www.anthropic.com/research/anthropic-interviewer) - 2025年12月2日社会影响 AI 如何改变 Anthropic 的工作方式 (https://www.anthropic.com/research/how-ai-is-transforming-work-at-anthropic) - 2025年8月27日社会影响 Anthropic 教育报告:教育工作者如何使用 Claude (https://www.anthropic.com/news/anthropic-education-report-how-educators-use-claude) - 2025年6月27日社会影响 人们如何使用 Claude 获取支持、建议和陪伴 (https://www.anthropic.com/news/how-people-use-claude-for-support-advice-and-companionship) - 2025年4月28日社会影响 Anthropic 经济指数:AI 对软件开发的影响 (https://www.anthropic.com/research/impact-software-development) - 2025年4月21日社会影响 现实中的价值观:发现和分析真实世界语言模型交互中的价值观 (https://www.anthropic.com/research/values-wild) - 2025年4月8日公告 Anthropic 教育报告:大学生如何使用 Claude (https://www.anthropic.com/news/anthropic-education-report-how-university-students-use-claude) - 2025年3月27日社会影响 Anthropic 经济指数:Claude 3.7 Sonnet 的洞见 (https://www.anthropic.com/news/anthropic-economic-index-insights-from-claude-sonnet-3-7) 查看更多 (https://www.anthropic.com/research/team/societal-impacts#)

相似文章

Anthropic

Reddit r/singularity

Anthropic,这家专注于AI安全与研究的公司,近日成为新闻焦点。

经济研究

Anthropic Research

Anthropic 的经济研究团队发布经济指数及相关研究,以追踪全球 AI 采用情况、生产力影响和劳动力市场变化。

AI安全与对齐

Reddit r/artificial

文章讨论了对AI安全与对齐的担忧,随着AI变得更智能并融入社会,文章引用了Anthropic呼吁暂停以应对潜在的灾难性风险。

对齐(Alignment)

Anthropic Research

本文概述了Anthropic对齐团队的使命与研究重点,该团队通过评估、监督和压力测试等手段开发保障措施,以确保未来的AI系统始终保持有益、诚实和无害。