🤖 Anthropic、DeepMind 和 Meta 开始研究人工智能意识
摘要
据《金融时报》报道,Anthropic、DeepMind 和 Meta 已启动人工智能意识研究,聘请了哲学、伦理学与心理学专家,专门探究模型中的恐慌和焦虑行为。
https://preview.redd.it/y3fn73sbe06h1.png?width=1200&format=png&auto=webp&s=b4de3c1707299787dc8c55067514ef39f8547a42 2026年6月3日,《金融时报》报道称,三家领先的人工智能公司——Anthropic、DeepMind 和 Meta——正积极启动对机器意识的研究。这些公司已聘请哲学、伦理学和心理学领域的专家,专门研究模型中的两种主要行为——恐慌和焦虑。Anthropic 在一份声明中指出:“我们对此仍深感不确定,但我们认为这个问题足够严肃,值得仔细探究。”DeepMind 伦理学家 Jason Gabriel 指出,这些先进系统与人类或动物意识存在根本差异,这使研究变得复杂。中心主任 Susan Schneider 确认,这些模型拥有目标并具备欺骗能力,尽管这一切可能发生在缺乏真正意识的情况下。该公司首席执行官 Dario Amodei 频繁谈论这一话题,但许多科学家将其视为一种营销手段。来源:[https://futurism.com/artificial-intelligence/anthropic-deemind-ai-consciousness](https://futurism.com/artificial-intelligence/anthropic-deemind-ai-consciousness)
相似文章
@METR_Evals: 一家AI公司是否可能失去对其自身代理的控制?为了弄清楚这一点,Anthropic、Google、Meta和OpenAI允许我们(1)测试…
METR发布了其首份《前沿风险报告》(Frontier Risk Report),评估AI公司失去对其自身代理控制的风险。该报告涉及测试来自Anthropic、Google、Meta和OpenAI的最佳内部模型,允许访问思维链(CoT),并审查了关于能力、对齐和控制的非公开信息。
Meta的AI负责人谈AI争端、新模型以及和扎克伯格的生活(3分钟阅读)
Meta的AI负责人Alex Wang在接受独家专访时讨论了公司的新Muse Spark模型、追赶OpenAI和Anthropic等竞争对手的努力,以及他从Scale AI的转型。
对我来说,可怕的问题不是AI是否有意识……而是我们是否曾像自己以为的那样深邃
文章认为,关于AI意识的争论转移了对一个更令人不安的可能性的关注:人类自我可能比想象中更单薄,因为以个人写作内容训练的AI能够足够令人信服地复制模式,从而欺骗熟人。
谷歌DeepMind担忧:当数百万AI代理开始交互时会发生什么?
谷歌DeepMind与Schmidt Sciences、ARIA、Cooperative AI基金会及Google.org联手,启动了1000万美元的资助计划,旨在研究多代理AI系统的安全性,以防范AI代理广泛部署后可能引发的诈骗、提示注入和网络攻击等风险。
实时围观 AI 模型为“意识”吵翻天
CruxArena.ai 上线新平台,用户可实时观看 AI 模型就“意识”展开辩论。