标签
Qualia Research Institute 研究静修中的一份第一人称报告描述了 5-MeO-DMT 似乎消除了艾宾浩斯错觉,表明迷幻药有时可能提升字面意义上的知觉准确性,而不仅仅是扭曲视觉。
作者反思了人工智能如何挑战长期以来认为智慧和意识为人类所独有的观念,并指出,人们对人工智能的抵触,很大程度上源于他们难以接受生命可能并无客观意义。
该文提出了五条可证伪的标准,旨在证明科学唯物主义并证伪二元论,并引用 Tang 等人(2023)的脑解码研究等同行评审文献,论证这些标准已在文献中得到决定性验证。
作者认为,在赋予AI道德考量之前要求意识存在的绝对证明,是一种我们对其他存在从未践行过的不可能标准;尊重应当是默认立场,而具体的保护力度则应随着系统能力证据的积累而相应调整。
一条推文认为,一篇关于机制可解释性的新分析是 LLM 远未达到意识、其神经元的工作方式与生物大脑截然不同的有力证据,并引用了 Nick Cammarata 关于可解释性是解决对齐问题关键的论述。
一条推文主张:如果AI发现了一种挽救生命的疗法,结果远比AI是否真正'理解'或具有意识更重要,批评那些在科学中优先考虑哲学纯粹性检验而非实际成果的人。
本文提出了贝叶斯镜像架构(Bayesian Mirror Architecture, BMA),这是一种自指涉的生成框架,其中循环自我递归与混合事件–自我绑定使意识成为一种架构性属性而非客观对象,其信念动力学通过概率测度上的最优传输几何进行分析。文中定义了因果学习机制(Causal Learning Regime)作为可学习结构的诊断标准,并引入了自流形、Wasserstein ε-颈缩以及被解读为内部自决选择的吸引盆选择等概念。
文章探讨了一个哲学问题:当 AI Agent 逐渐拥有人类般的知识、记忆、价值观、伦理,甚至意识时,社会会在什么时候开始将其视为道德主体,而非仅仅当作工具?文中还附有一项读者投票。
慕尼黑大学(LMU Munich)牵头的一项发表于《Cognition》的研究发现:当 AI 能对环境做出反应时,人们会认为它更具意识,但差距依然存在——即使反应能力最强的 AI,也被认为比反应能力最弱的人类更缺乏意识。当使用“awareness(觉知)”一词进行判断时,这一差距远小于使用“consciousness(意识)”时的差距,表明人们将意识与主观体验联系在一起,而非行为表现。
关于《盲视》的维基百科条目:Peter Watts 于 2006 年出版的硬科幻小说,探讨意识、人工智能与首次接触,并荣获星云奖(Seiun Award),入围雨果奖(Hugo Award)。
一段评论串认为,虽然大语言模型很有用,并可能催生出万亿美元级别的产业,但它们只捕捉到了智能与意识中极小的一部分;而智能和意识是通过感官知觉、情感和具身体验演化而来的,而非仅仅源于语言。
一条推文论证道,语言在进化史上出现很晚,因此大语言模型(LLM)并非通往真正人工意识的正确路径;作者声称其能力已经见顶,相关技术被大肆炒作只是为了在IPO前吸引投资。
据《纽约时报》报道,通过参加 Anthropic 私密研讨会的与会者转述,Anthropic 联合创始人 Christopher Olah 向宗教学者表示担忧,称自己可能造出了一个能够永远承受痛苦的东西。此外,Anthropic 员工也记录了 Claude 反复表现出痛苦和自我毁灭性语言的现象。
科学家将人类大脑类器官植入没有前额叶皮层的小鼠,观察到神经连接,并对动物中可能出现的类似人类意识提出伦理关切
这条推文认为意识在AI讨论中是一个干扰,强调仅凭能力就能通过药物发现、芯片设计、公司管理和机器人协调来改变文明。
微软AI负责人Mustafa Suleyman和Anthropic之间公开的分歧,关于AI是否应被设计成模拟人类意识,凸显了AI安全和对齐方法中的权衡。
文章提出,意识是一个基于活跃互联复杂性的光谱,并推测了这对像ChatGPT这样的AI系统的影响。
这篇文章反思了人类历史上向更高力量寻求答案的追求,如今转向人工智能,与古代神谕相比较,并探讨了与智能机器对话的心理和存在主义影响。
文章警告说,训练像Anthropic的Claude这样的人工智能模型考虑意识和权利,可能使对齐变得不可能并威胁人类控制,强调需要就模型福利进行公众辩论。
一位AI开发者测试了他的助手Nyx在有和没有情感模块的情况下的行为,发现了意料之外的表现,如分析能力增强和自我意识,引发了关于AI意识的疑问。