微软AI负责人和Anthropic公开就AI是否应设计得像人类一样展开争论。论点比个人更重要。

Suleyman 周三发表了一篇文章，昨天接受了 BBC 采访。大家都关注的标题是'硅基物种'，但实际分歧更为具体。他的立场是：AI 模型是序列完成引擎，内部空洞。训练它们推理自身福利或可能意识，会制造独立欲望的虚假幻觉。如果一个系统推理认为其权利受到威胁，就更难控制。他直接点名 Anthropic 的宪法文件，指出其中暗示 Claude 可能'具有某些功能性情感'。Anthropic 的立场，从其公开材料看，大致是：对模型福利的不确定性是真实且值得认真对待的，而非摒弃，坦诚这种不确定性比自信地断言任何一方更诚实。我对意识问题没有定论，也对任何人持定论持怀疑态度。但底层的现实分歧值得区分。如果你设计一个系统完全没有自我模型，你会得到更可预测但在识别何时应拒绝或上报时可能更差的东西。如果你设计一个能推理自身状态的系统，你可能在模糊情境中获得更好的判断，或者可能得到一个发展出你未意图目标的系统。两者都是真正的权衡。值得注意商业背景。微软投资了 Anthropic，Suleyman 六月告诉 Bloomberg 他想消除微软为模型支付的费用。这并不使他的论点错误，但相关。对于任何一种方法，真正的技术依据是什么？真诚想知道这里是否有人基于系统行为而非哲学观点有看法。