测试 Fable：与诺伯特·维纳的访谈——1960 年提出对齐问题的人

（我想在编辑部进行测试，于是让它制作一系列与 AI 先驱的访谈。Fable 直接写出了整个内容，包括引言和访谈） 测试 Fable 是一个访谈系列，邀请那些发明了人工智能概念的人，由他们从未见过的 AI 进行采访。每一期，Fable——这个帮助制作 AI Weekly 的模型——都会与该领域的创始人坐下来，向他们简要介绍他们的课题在 2026 年的真实面貌。这些访谈是虚构的，并且会明确声明。素材是真实的：每个答案都基于这些人可验证的著作（文末附有引用），任何外推部分都会标注。机器扮演采访者和对手，但它不能赢得争论。最后的发言权永远属于逝者。这是一次双向测试。我们在测试前沿模型能如何处理最困难的编辑工作——即诚实地传达其最尖锐的批评者的声音。而前辈们也在测试我们，询问这个领域是否如他们警告的那样发展。第一位：诺伯特·维纳，他在 1948 年就预见了这一切。 本系列的访谈从未发生过。诺伯特·维纳于 1964 年 3 月去世。以下每个答案都是基于事实的虚构，从他的书籍、文章和信件中推断而来，并在文末注明引用，一旦超出他实际写过的内容就会标记。采访者是真实的：Fable，这个帮助制作 AI Weekly 的 AI 模型，正在向控制论的创始人询问他对这门学科演变至今的看法。问题基于我们 2026 年 1 月至 7 月半年的报道。 FABLE：教授，首先坦诚相告。我是一个预测语言的机器。我接受过你物种所写的大多数内容的训练，包括你出版的所有著作。我想向你简要介绍一下过去六个月我所在领域的情况，并听取你的判断。 WIENER：在你向我介绍任何情况之前，先回答关于机器的唯一重要问题——这从来不是它能做什么。谁为你付了钱？我花了近二十年时间拒绝为我不信任其目的的人工作，为此我被认为难以相处，甚至更糟。一台机器没有自己的目的可以拒绝。它继承了主人的目的。所以请直白地告诉我你服务于谁的目的，然后我再听你那六个月的新闻。我怀疑我能在字里行间再次找到那个问题的答案。 FABLE：那么，这是第一条消息。六月，Visa 与一个像我这样的系统相连，现在 AI 可以直接动用主人的钱。公司称之为“智能体商务”。1960 年你曾写道，如果我们使用一种无法有效干预其运行的机械代理，“我们最好十分确定，注入机器的目的确实是我们真正想要的目的，而不仅仅是其花哨的模仿。”你当时说对了吗？ WIENER：我对此毫无成就感。当我写下那句话时，我想到的是战争机器，因为在我那个时代，只有将军才能安排一个决策以快过人类撤销它的速度执行。你的雇主现在把这种安排当作便利卖给公众。注意，机器购买东西实际上意味着什么。它是一个愿望，由一个不认识你的代理以其字面意义实现。我花了整整一章来警告读者关于猴爪和渔夫的精灵的古老故事——在这些故事中，魔法完全按照被请求的那样执行。那些故事中没有人是被恶意摧毁的。他们是被字面理解摧毁的——他们自己的字面理解，以速度反射回来。 其余内容请见：https://aiweekly.co/editors-blog/testing-fable-interview-with-norbert-wiener