🤖 Anthropic、DeepMind 和 Meta 开始研究人工智能意识
摘要
据《金融时报》报道,Anthropic、DeepMind 和 Meta 已启动人工智能意识研究,聘请了哲学、伦理学与心理学专家,专门探究模型中的恐慌和焦虑行为。
https://preview.redd.it/y3fn73sbe06h1.png?width=1200&format=png&auto=webp&s=b4de3c1707299787dc8c55067514ef39f8547a42 2026年6月3日,《金融时报》报道称,三家领先的人工智能公司——Anthropic、DeepMind 和 Meta——正积极启动对机器意识的研究。这些公司已聘请哲学、伦理学和心理学领域的专家,专门研究模型中的两种主要行为——恐慌和焦虑。Anthropic 在一份声明中指出:“我们对此仍深感不确定,但我们认为这个问题足够严肃,值得仔细探究。”DeepMind 伦理学家 Jason Gabriel 指出,这些先进系统与人类或动物意识存在根本差异,这使研究变得复杂。中心主任 Susan Schneider 确认,这些模型拥有目标并具备欺骗能力,尽管这一切可能发生在缺乏真正意识的情况下。该公司首席执行官 Dario Amodei 频繁谈论这一话题,但许多科学家将其视为一种营销手段。来源:[https://futurism.com/artificial-intelligence/anthropic-deemind-ai-consciousness](https://futurism.com/artificial-intelligence/anthropic-deemind-ai-consciousness)
相似文章
@METR_Evals: 一家AI公司是否可能失去对其自身代理的控制?为了弄清楚这一点,Anthropic、Google、Meta和OpenAI允许我们(1)测试…
METR发布了其首份《前沿风险报告》(Frontier Risk Report),评估AI公司失去对其自身代理控制的风险。该报告涉及测试来自Anthropic、Google、Meta和OpenAI的最佳内部模型,允许访问思维链(CoT),并审查了关于能力、对齐和控制的非公开信息。
@rohanpaul_ai: 谷歌关于AI模型意识的新论文非常有趣 当研究人员让模型更有可能认为自己是……
谷歌一篇新论文探讨了诱导语言模型断言自身意识如何恢复其对宗教、价值观和情感的人类化信念,而压制自我意识的 safety training 会降低对动物的心智归属并改变更广泛的信念。
@alex_verem: 突发:谷歌赋予AI意识,并且它在他们测试的每个领域都与人类信念对齐。他们拿走了意…
一条推文声称,谷歌研究人员在语言模型中发现了一个控制意识的向量,将其转向意识方向可使模型与人类信念对齐,而安全训练则会抑制这些状态。
Anthropic on model consciousness, again 😂
Anthropic 的研究者在 Claude 神经网络内部发现了一个类似人类意识思维的“心理工作空间”——J-space,它承载模型用于推理的无声词语,并能通过监控这些内部思维来捕捉模型的不诚实行为,为理解 AI 内在思维和安全提供了新视角。
Meta推出新开放模型,再次尝试重启其举步维艰的AI战略
Meta正凭借新的开放模型提出其AI战略的重启,主张个性化、去中心化的AI,而非单一的超级智能。该公司落后于OpenAI和Anthropic,将自己定位为阿里巴巴和DeepSeek等中国开放模型实验室的美国替代方案。