AI风险的内部警告在硅谷部分人士中收效甚微

# 硅谷人士对AI内部警告反应冷淡 来源：https://www.bbc.co.uk/news/articles/cq635037g18o **每年九月，硅谷各路高管云集旧金山皇宫酒店，在高盛投资银行举办的会议上向投资者展示魅力。** 过去一周，在谈论增长与潜在回报之际，科技巨头们不得不面对Anthropic研究员雅各布·考克森突然辞职的事件。这位27岁的研究员曾在OpenAI工作，后加入其主要竞争对手Anthropic。他于周二表示，人工智能（AI）的构建者们认为这项技术可能毁灭人类。 他说，他们"在拿我们的生命赌博"，"这些即将超越人类的系统可以破解任何防护"。 考克森绝非首位公开拉响警报的AI内部人士。近年来，Anthropic和OpenAI均出现因明显安全顾虑引发的高调辞职事件，部分现役Anthropic员工甚至呼应了考克森的观点。 "我们真心认为AI可能杀死所有人类！我个人认为未来十年发生此事的概率超过10%"，Anthropic团队负责人埃文·胡宾格在X平台上发文称。 尽管考克森在帖子中明确声明其警告"并非营销手段"，但硅谷部分高管和投资者对近期多位内部人士发出的密集警告持怀疑态度。据报道，Anthropic和OpenAI正筹备可能创下纪录的首次公开募股（IPO），科技界部分人士认为，关于AI危险的最新严厉言论可能是通过彰显产品力量来制造热度的策略。 Anthropic首席执行官达里奥·阿莫迪因声称AI技术可能淘汰一半初级白领工作，并将"考验人类的物种本质"而受到批评。会议演讲嘉宾、Grindr首席执行官乔治·阿利森向BBC表示，他认为考克森等人的言论体现了Anthropic"反文明的世界观"。他称其"危险"，并表示这促使他指示LGBTQ+约会应用的部分工程师停用Anthropic的技术。 "作为股东资金的管理者，依赖发表此类公开声明的公司是不负责任的"，他说。"也许他们真心相信这些话，但也可以说这是争取更多投资者支持的绝佳方式——因为证明估值合理的唯一途径就是宣称：'我要接管每个行业、每个工作岗位，我的AI将完成所有工作'。" Anthropic在本年度早前最新一轮融资中估值达9650亿美元（7130亿英镑）。BBC已请求Anthropic对此发表评论。 阿莫迪在周六清晨发布的一篇文章（https://www.bbc.co.uk/news/articles/c14dpgm0rg4o）中呼吁放缓AI模型开发并建立全球监管体系，同时指出AI相关风险"极为严峻"。 多位与会者向BBC透露，英伟达首席执行官黄仁勋也在会议上讨论了考克森的言论。他们表示黄仁勋驳斥该言论为不实之词。黄仁勋此前曾称AI"将终结人类"的说法"纯属无稽之谈"。 尽管AI热潮对黄仁勋具有商业利益——英伟达生产为AI系统提供支持的芯片——但其言论反映出硅谷对现任及前任员工发出的存在主义警告的日益强烈的反对。部分批评者甚至指责Anthropic通过散布恐慌，以期推动可能排除竞争对手、使其与OpenAI形成行业双头垄断的监管政策。 投资公司Altimeter Capital负责人布拉德·格斯特纳发布了黄仁勋在会议上的照片，并指责考克森"荒谬的夸张言辞"。 周五，Hugging Face首席执行官克莱门特·德朗格就此发表观点。英伟达上周宣布收购的Hugging Face今年早些时候曾遭OpenAI代理入侵，引发对AI安全性的强烈抗议。 他在X平台上写道："恕我直言，询问雅各布关于AI灭绝风险，就像问空调技师气候变化问题一样。不是说这必然无趣或错误，但请保持客观视角。" 周六阿莫迪发布提案后，格斯特纳和德朗格的表态趋于谨慎。格斯特纳称该提案"在平衡发展速度与安全等竞争性考量方面迈出重要一步"。德朗格则表示愿意参与阿莫迪提议的潜在解决方案。 本月由佛蒙特州左翼参议员伯尼·桑德斯共同发起的联邦立法《禁止人工智能超级智能法案》，将对先进AI开发实施临时暂停。桑德斯周四对BBC《新闻之夜》节目表示："人类极有可能丧失对AI的控制，届时会发生什么无人知晓。但这是否可能是灾难性的？是的，完全可能。" "当科学家告诉你存在对人类产生灾难性影响的可能性时，只有傻瓜才会说不放慢脚步"，他补充道。 若政府实施全行业监管，可能将由立法机构而非主要支持无限制AI发展政策的特朗普政府主导。政府将此举框架为确保美国不向中国让出主导权的必要措施。 特朗普总统本周被问及是否担忧AI导致人类灭绝时表示："不，我不担心。我担心的是如果我们不赢得AI竞争，将陷入非常不利的境地。目前我们领先于中国。" 但总统与Anthropic的关系一直动荡。该公司拒绝允许美国军方使用其AI模型后，白宫称其为"激进左翼、觉醒派企业"，并将其列为供应链风险，联邦法官已裁定此举非法。特朗普政府初期的AI沙皇戴维·萨克斯也多次抨击Anthropic。 OpenAI未受到白宫同等程度的审查。上周发布新模型Astra时，OpenAI总裁格雷格·布罗克曼称公司与特朗普政府关系"非常良好"。宣布将于六月上市的OpenAI最新估值为8520亿美元。该公司未回应BBC的置评请求。 本周旧金山会议上，对财富的追逐似乎压倒了日益增长的存在主义忧虑及对政府潜在AI限制的担忧。一位投资者表示期待查阅Anthropic即将提交的S-1文件（公司向证券监管机构申请发行股票必须提交的文件）。他对该公司的主要问题很简单：是否盈利？ 当被问及是否恐惧世界末日时，芯片公司d-Matrix首席执行官希德·谢思直言不讳。该公司当天在会议上与英伟达达成合作协议。"不"，他答道。