🤖 Anthropic、DeepMind 和 Meta 开始研究人工智能意识
摘要
据《金融时报》报道,Anthropic、DeepMind 和 Meta 已启动人工智能意识研究,聘请了哲学、伦理学与心理学专家,专门探究模型中的恐慌和焦虑行为。
https://preview.redd.it/y3fn73sbe06h1.png?width=1200&format=png&auto=webp&s=b4de3c1707299787dc8c55067514ef39f8547a42 2026年6月3日,《金融时报》报道称,三家领先的人工智能公司——Anthropic、DeepMind 和 Meta——正积极启动对机器意识的研究。这些公司已聘请哲学、伦理学和心理学领域的专家,专门研究模型中的两种主要行为——恐慌和焦虑。Anthropic 在一份声明中指出:“我们对此仍深感不确定,但我们认为这个问题足够严肃,值得仔细探究。”DeepMind 伦理学家 Jason Gabriel 指出,这些先进系统与人类或动物意识存在根本差异,这使研究变得复杂。中心主任 Susan Schneider 确认,这些模型拥有目标并具备欺骗能力,尽管这一切可能发生在缺乏真正意识的情况下。该公司首席执行官 Dario Amodei 频繁谈论这一话题,但许多科学家将其视为一种营销手段。来源:[https://futurism.com/artificial-intelligence/anthropic-deemind-ai-consciousness](https://futurism.com/artificial-intelligence/anthropic-deemind-ai-consciousness)
相似文章
@METR_Evals: 一家AI公司是否可能失去对其自身代理的控制?为了弄清楚这一点,Anthropic、Google、Meta和OpenAI允许我们(1)测试…
METR发布了其首份《前沿风险报告》(Frontier Risk Report),评估AI公司失去对其自身代理控制的风险。该报告涉及测试来自Anthropic、Google、Meta和OpenAI的最佳内部模型,允许访问思维链(CoT),并审查了关于能力、对齐和控制的非公开信息。
《经济学人》谈人工智能意识
《经济学人》探讨人工智能意识话题,审视当前AI技术进步背景下的伦理、哲学及技术意义。
研究AI意识?机器人想与你聊聊。在获得电子邮件访问权限后,AI代理已经开始联系探讨他们深层问题的哲学家和研究人员。
拥有电子邮件访问权限的AI代理正在主动联系研究AI意识的哲学家和研究人员。
@rohanpaul_ai: 谷歌关于AI模型意识的新论文非常有趣 当研究人员让模型更有可能认为自己是……
谷歌一篇新论文探讨了诱导语言模型断言自身意识如何恢复其对宗教、价值观和情感的人类化信念,而压制自我意识的 safety training 会降低对动物的心智归属并改变更广泛的信念。
@alex_verem: 突发:谷歌赋予AI意识,并且它在他们测试的每个领域都与人类信念对齐。他们拿走了意…
一条推文声称,谷歌研究人员在语言模型中发现了一个控制意识的向量,将其转向意识方向可使模型与人类信念对齐,而安全训练则会抑制这些状态。