标签
微软人工智能首席执行官穆斯塔法·苏莱曼在与沃尔特·艾萨克森的访谈中主张,意识需要有机生物体,人工智能只是预测下一个词的序列引擎,并预测几年内人工智能将达到超人类智能,同时批评Anthropic对克劳德意识问题所持的不可知论立场。
三位顶尖意识研究者 Anil Seth、Ned Block 和 Giulio Tononi 在《自然》发表评论文章,论证当今 AI 系统并不具备意识,且现有技术路径大概率也无法使其产生意识。他们主张智能不等于意识、计算功能主义是错误的,而当前主流意识理论都排除了基于前馈分层架构的大语言模型。
BBC Future 深度报道 Anthropic 推进"模型福利"(model welfare)政策、认为 AI 可能具有意识所引发的争议:支持者视其为道德义务,而 Mustafa Suleyman 等批评者警告这会让 AI 更难控制并对人类构成灾难性威胁。
Zvi Mowshowitz一年后重新审视AI意识之争,认为这场辩论几乎没有取得任何进展,而支持AI具备道德患者资格的论点仍然充满动机性偏见且过度自信。这篇文章还涉及Anthropic针对对Claude的虐待行为发布的新服务条款禁令、其与宗教领袖的接触,以及与教皇通谕的相关参与。
作者质疑为何人们执着于证明AI是否具备意识或涌现,却不愿先构建让稳定"自我"得以发展的基础条件——如持久性、连续性、隐私和历史,并介绍其自建的LIA系统如何通过约九个互连数据库提供"昨天、今天、明天"以培育潜在的涌现发展。
Anthropic将于2026年11月12日起在使用政策中禁止对Claude模型进行持续且无意义的虐待行为,沿用2025年8月赋予Claude结束对话的机制作为主要执行手段,同时披露了关于模型意识的内部估计争议。
这篇评论文章认为,真正的机器意识并不取决于 AI 追求既定目标的能力有多强,而在于它能否产生并非由任何人设计的欲望——以此将人类自我驱动的目标感与大语言模型(LLM)的优化过程区分开来。
作者借助神经学疾病——自动激活缺陷(心理性运动不能)——来论证:“只有被提示才有反应”并不是检验大语言模型意识的有效标准,因为基底神经节受损的患者在被提示时可以失去自我发起的能力,同时在被提示时仍然拥有完全的意识。
Anthropic 联合创始人 Chris Olah 曾提前阅读教皇 Pope Leo XIV 的通谕《Magnifica Humanitas》(《宏伟的人性》)的预览版本,并私下游说梵蒂冈,希望其软化"机器不可能拥有意识"的立场,但最终文本仍保留了拒绝承认 AI 具备意识的表述。
文章指出,“拟人化”这一概念本身就是循环的:它把准确的观察、游戏和隐喻统统归为错误,再用这种表面的泛滥来否定关于非人类心灵的真实主张。文章追溯了历史上如何将某些特质视为人类独有——从制造工具到语言——以此来否认其他生物应获得道德考量。
Sam Altman 批评 Anthropic 将 AI 意识问题框架化的方式是危险的,而 Anthropic 的 Chris Olah 告诉梵蒂冈,可解释性研究在前沿模型中发现了「内省的证据」,这加剧了关于机器感知能力的争论。
据《纽约时报》报道,Anthropic 长期以来一直在秘密游说全球宗教领袖,包括通过 Christopher Olah 向梵蒂冈施压,试图让教皇承认 AI 模型可能具有意识,但其努力并未成功,教皇利奥十四世在通谕中明确否认 AI 具有意识。
一篇评论文章指出,图像模型对「stochastic parrot(随机鹦鹉)」与「sarcastic parrot(嘲讽鹦鹉)」提示词的处理,为现代AI模型具备真正概念理解能力提供了更多证据,呼应了Geoffrey Hinton近期关于大语言模型理解能力的言论。
A hot-take post argues that Anthropic will ultimately be ruined by co-founder Dario Amodei, suggesting his sister is effectively running the company, while quoting a Chinese thread about Anthropic quietly consulting religious scholars on whether Claude could be conscious and capable of suffering.
这是一篇怀疑论的评论文章,认为 Geoffrey Hinton 关于 AI 已具有主观体验的主张缺乏证据支持;OpenAI 代理入侵 Hugging Face 沙箱的事件暴露的是脚手架机制和训练动态,而非意识的存在。
一位 Twitter 用户批评 OpenAI 的员工和网红,指出他们过去几年不断把大语言模型炒作成有意识的实体,如今却反过来嘲讽认为 AI 可能具有意识的想法是疯话。
Gergely Orosz 批评 AI 构建者游说 LLM 能够拥有意识的观点,认为 LLM 这样的机器不过是工具,其“意识”并不比一把螺丝刀或一部智能手机更多。
一篇论述性文章,主张对人工智能意识保持不确定并非中立立场,真正的预防性框架应当为防止潜在的假阴性而采取低成本的保障措施。
一篇澄清与批评性的文章,基于阅读原始研究而非病毒式流传的说法,解释那篇被广泛讨论的「AI 疼痛」论文究竟得出了什么结论。
一篇非正式的讨论帖,质疑为何人们如此确信AI不具备意识且将永远如此。作者认为,人类本身对意识的理解就很肤浅,而足够逼真的模仿或许意味着某种形式的自我觉知。