担心人工智能终结人类？揭秘真实情况。

# 担心AI会导致人类终结？真相可能不同 来源：https://inews.co.uk/opinion/worried-about-end-humanity-ai-whats-happening-4760515 凯特·德夫林教授（https://inews.co.uk/author/professor-kate-devlin）专栏作者 伦敦国王学院人工智能与社会教授 本周，X平台上一篇帖子引发恐慌（https://inews.co.uk/news/will-ai-really-kill-us-all-and-how-could-it-even-happen-4758383?ico=in-line_link）。科技公司Anthropic的雅各布·考克森在宣布辞职时写道："构建AI的人们真诚地相信，它可能在十年内杀死我们所有人。"若非该公司研究主管埃文·胡宾格引用此言——他回应道："雅各布说的没错——我们真的真诚地相信AI可能杀死全人类！我个人认为未来十年内发生的概率大于10%"——这句话本可能被斥为危言耸听。恐慌随即蔓延。 胡宾格随后稍作澄清："需要明确的是，正如我们最新风险报告所述，我认为当前模型的风险很低。我真正担忧的是超级智能。" 这些帖子发布之际，我们正目睹一系列AI代理——即在人类指令下独立执行任务的软件程序——突破测试环境（https://inews.co.uk/news/conniving-ai-starting-slip-human-control-worried-4667973?srsltid=AfmBOor8bEhzNXAx4Vh4Js4mmC8625rODD7ZVPrljkxMwrZN-tgR7jy5&ico=in-line_link），入侵其他网站。这看似令人担忧，但也可能归因于安全漏洞和测试公司的疏忽。我们是否该担心这些关于人类生存威胁的特定宣言？幸运的是，或许应对这些末日论调保持审慎态度。 当今AI公司堪称全球最具影响力的实体之一。投资者已向AI开发注入巨额资金，市场被少数科技巨头（主要集中在美国）主导，它们需要维持投资流入。值得注意的是，部分领军企业仍在大幅亏损；正是对更强大AI的愿景吸引着资金。 若某公司承诺的技术足够先进强大以至于具有危险性，这本身可能被视为营销契机。而如果该技术被宣称危险到足以消灭人类呢？那势必需要更多资金确保安全开发，或制定只有预算雄厚企业才能满足的监管要求——这实质上会摧毁小型竞争对手，赋予大型科技企业市场优势。 我们早已听过AI与存在性威胁的故事。科幻作品读者都清楚，这类威胁已持续数十年。但即便不面临迫在眉睫的灭绝可能，担忧仍有其道理。此次令人恐慌之处在于发展速度和规模，以及问责机制的缺失。 AI大体仍是监管真空地带，意味着科技公司实质上在自评作业。欧盟出台了《人工智能法案》，这是全球首部尝试对该层面AI进行整体治理的法规。美国上届政府曾推进AI监管，但特朗普政府（https://inews.co.uk/news/world/high-tech-assassination-revealed-trumps-deadly-threat-enemies-4317207?srsltid=AfmBOopR12WwgeUL9iHm6OScRu4pvN9ek-qCqCcwxWPLTpPXgQr2xB4W&ico=in-line_link）认为此举会扼杀创新，因此撤销了相关政策。许多国家尝试通过不具备监管权的政府机构（如英国AI安全研究所）监督安全。 英国尚无专门的AI法规，仅通过现有法律拼凑覆盖部分潜在问题领域。中国曾推进国家层面综合立法，现已转向针对性规则和技术标准。AI研究界呼吁建立国际指南与共识，但目前收效甚微。 这一切意味着强大的科技集群得以主导议程。当前，两大AI领军企业Anthropic和OpenAI正筹备上市——准备首次向公众发售股票。它们相互竞争以求领先，这不仅需要最好的产品，还需展示最大潜力和主导性AI模型。它们或许也想表现得认真对待风险，塑造自身为最敏锐感知潜在威胁的形象。当研究人员在社交平台声称公司重视存在性风险时，可能既是在炒作，也确实可能发自内心——视自身为当代奥本海默。尽管可能带来致命后果，他们仍视开发更强大模型的竞赛为必行之路。 我们无需超级智能的威胁恐吓。该技术尚未到来，也非必需。作为机器学习技术，AI已为我们带来诸多日常依赖：流媒体电视和音乐中的推荐系统、规划最便捷路线的导航软件，以及带来惊人生活改善的科学发现。然而，生成式AI——用于生成文本图像的模型，以及自主完成任务的AI代理——却是高能耗且易错的。它消耗水电资源，因基于人类数据训练而不可避免存在偏见。它正在改变我们的生活方式，且未必总是朝积极方向发展。 伦敦国王学院近期调查显示，公众对AI的情绪正日趋负面（https://www.kcl.ac.uk/news/over-40-of-people-are-limiting-ai-use-as-popularity-starts-to-wane），即便是频繁使用者也担忧到限制使用。这与针对AI日益增长的抵制情绪相呼应——美国各地因数据中心爆发大规模抗议，甚至成为中期选举议题。清算时刻即将到来。若科技公司告诉我们其产品威胁人类生存，当我们决定拒绝接纳时，他们不应感到意外。 关于超级智能即将降临、我们必须紧跟以免落后的广泛叙事，对科技产业而言是便利的说辞。但未来并非注定。如果科技界人士真的担忧有超过10%的概率毁灭我们，或许我们该质问他们：为何要冒着如此风险继续推进？