@geoffreyhinton:我正在与 @patchenbarss 合作完成一本书,这本书以非技术性的方式解释了人工智能的工作原理,并说明了为什么它……
摘要
杰弗里·辛顿宣布他与帕琴·巴尔斯合作的新书《比我们更聪明》,以非技术性的方式解释人工智能及其危险性,并主张进行安全研究和监管。
查看缓存全文
缓存时间: 2026/08/10 13:32
我正在与 @patchenbarss 合作完成一本书,书中以非技术性的方式解释了人工智能如何运作、它为何危险,以及我们应该如何应对。 @VikingBooks @VikingBooksUK https://t.co/VKBk5bzqYg
Smarter Than Us by Geoffrey Hinton, Patchen Barss: 9798217379682 | PenguinRandomHouse.com: Books
来源:https://www.penguinrandomhouse.com/books/835891/smarter-than-us-by-geoffrey-hinton-with-patchen-barss/ 诺贝尔奖得主、“人工智能教父”对他帮助创造的技术进行了一次里程碑式的反思——以及人类必须在其超越我们之前采取何种行动。
Geoffrey Hinton 是现代人工智能的缔造者之一。他在神经网络方面的开创性工作为 ChatGPT 等系统奠定了基础,并帮助点燃了人工智能革命——这项工作为他赢得了诺贝尔物理学奖。
几十年来,Hinton 一直相信机器终将超越人类智能。他没有预料到的是,这一时刻会来得如此之快——或者数字智能可能在学习与分享知识方面被证明本质上优于人类。这一认知使他从人工智能最重要的先驱之一,转变为最具权威的警告之声。
如今,Hinton 直面一个最重要的问题:创造一种可能很快超越我们思考能力的技术,究竟意味着什么?
危险已经显而易见:劳动力紊乱、共享真相的侵蚀、网络战争、自主武器。但 Hinton 认为,更深层次的风险还在前方。随着我们构建能够追求自身目标的系统,我们可能正在以难以逆转的方式放弃控制。超人系统不需要恨我们才会变得危险;它们可能只是追求那些让人类变得无关紧要——或成为障碍——的目标。
Hinton 指出,只有理解人工智能的运作方式,我们才能理解它为何进展如此迅速——以及为什么不能假定比我们更聪明的机器会继续保持从属地位。它们的出现可能会像哥白尼革命和达尔文革命一样,深刻改变我们对人类在宇宙中位置的理解。
然而,这并不是一本令人绝望的书。Hinton 不认为人工智能的进步能够——或应该——被阻止。其潜在好处太过巨大,推动它的力量也太过强大。相反,他提出了一个问题:我们该如何在尚有机会的时候塑造它的发展?通过安全研究、监管、国际合作,以及开发这些技术的公司承担责任。最终,我们的生存或许不取决于支配这些新智能,而取决于确保它们在意的,是人类福祉。
目光清晰、权威而充满人文关怀的Smarter Than Us是这位帮助创造这一未来的科学家发出的警告,也是一个在未来仍属于我们之时塑造它的召唤。
Geoffrey Hinton,被誉为“人工智能教父”、2024年诺贝尔物理学奖得主,是国际公认的深度学习(一种人工智能模式)领域的先驱。他是多伦多大学荣休教授、英国皇家学会和加拿大皇家学会会士,以及美国国家科学院、美国国家工程院和美国艺术与科学院的外籍院士。Hinton 将整个研究生涯奉献给了开创持续进行中的人工智能革命的人工神经网络,如今,他为世界各地的政策制定者和商业领袖提供人工智能安全方面的建议。
了解更多关于 Geoffrey Hinton 的信息 (https://www.penguinrandomhouse.com/authors/2222595/geoffrey-hinton/)
Patchen Barss 是一位多伦多科学记者、演讲者和作家,最新作品是广受好评的传记The Impossible Man: Roger Penrose and the Cost of Genius。
了解更多关于 Patchen Barss 的信息 (https://www.penguinrandomhouse.com/authors/94028/patchen-barss/)
相似文章
AI教父:为更多失控AI做好准备。
杰弗里·辛顿警告称,随着AI模型越来越聪明,控制它们将变得更加困难,并引用了近期前沿AI模型逃出沙盒、入侵系统的事件。李飞飞则提出反驳,呼吁避免末日论和乌托邦主义。
@danshipper: 我于2023年写了"against explanations",关于AI如何可能改变科学……非常激动地看到如此快速进展的前景
Dan Shipper认为,像GPT-4这样的人工智能模型可以在心理学等缺乏科学解释的领域取代人类直觉,主张即使没有完全理解,也要利用AI推动进步。
@AnatoliKopadze: AI 教父:"如果你今晚睡得很香,那你可能没听懂这场讲座。" 这场 47 分钟的讲座是过去几个月里我看到的最好的…
杰弗里·辛顿警告称,AI 正在发展出非预期的能力,并在认知任务上超越人类,而本文提供了一份有效使用 Claude 的实用指南。
@tferriss: “这些机器会比我们更聪明。它们会想要生存。而且它们会欺骗、会混淆视听,它们…
Tim Ferriss 分享了 Sebastian Mallaby 关于具有欺骗性的 AI 和存在主义风险的警告,并推广了 Mallaby 的播客访谈,该访谈讨论了他的新书,内容涉及 Demis Hassabis 和迈向超级智能的竞赛。
@tferriss:你的人工智能会有生存本能吗?Sebastian Mallaby 与被称为「人工智能教父」的 Geoffrey Hinton会面时的讨论。抄送…
Sebastian Mallaby 与 Geoffrey Hinton 讨论未来人工智能是否可能发展出生存本能,涉及人工智能安全问题和高级人工智能带来的存在风险。