Bill Gates表示AI公司自律不足,政府应参与监督

Reddit r/ArtificialInteligence 新闻

摘要

Bill Gates呼吁政府对AI进行监管,指出公司自我监管不足,并强调恶意行为者滥用AI的风险

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/09/25 11:19

# 比尔·盖茨称AI公司自律不足,政府应介入监管 来源:https://www.nbcnews.com/politics/politics-news/bill-gates-ai-companies-self-regulating-governments-monitoring-rcna599619 微软联合创始人、亿万富翁慈善家比尔·盖茨周三呼吁华盛顿的立法者对人工智能发展实施监管。数周前,美国多家大型人工智能实验室的首席执行官曾一致同意有必要放缓人工智能发展进程。 盖茨在接受NBC新闻《与媒体见面》节目采访时表示:"没有人认为自律是足够的。"该采访完整内容将于周日播出。 当主持人克里斯汀·韦尔克询问华盛顿是否需要通过立法时,盖茨明确表示:"绝对需要。" 他指出:"需要执法部门和政治家参与讨论,明确安全保障和监管机制。这必须成为强制要求。虽然会给行业带来些许负担,但不会显著减缓他们的工作进展。" 本月早些时候,美国两大人工智能实验室Anthropic和OpenAI的首席执行官均同意应放缓强大人工智能系统的开发竞赛。他们的表态源自Anthropic前安全研究员雅各布·科克伦近日公开声明:"两家公司都未负责任地行事。他们正盲目奔向自我改进的超级智能,拿我们的生命当赌注。" 科克伦在该周的社交媒体帖子和系列采访中补充道:"构建人工智能的人们真诚地相信,这项技术可能在十年内导致人类灭绝。" 在周三的采访中,盖茨并未淡化人工智能可能在数年内毁灭人类的风险,但呼吁美国人不要忽视当下人工智能就可能被恶意行为者用于造成大规模伤害的现实威胁。 盖茨指出:"人工智能确实强大到足以引发可能导致十亿人死亡的事件。即使难以达到百分百确定性,但历史上从未有过如此强大的武器——恶意者结合最新人工智能工具所具备的破坏力。" 而在本月早些时候《与媒体见面》的采访中,科克伦曾表示人工智能公司应被允许自我监管。他说道:"我确实认为运营这些实验室的人,特别是他们近期的沟通,完全出于真诚。他们确实希望放缓发展速度。" 几周前在同档节目中,众议院议长迈克·约翰逊拒绝让众议员返回华盛顿通过立法监管人工智能发展速度,称将尊重人工智能公司的自主决定。他表示:"我们必须设立一些护栏和安全措施,确保人工智能不会失控。"同时补充道,虽然人工智能首席执行官们呼吁放缓速度,但尚未提出涉及联邦立法的解决方案。 约翰逊指出:"他们至今自己都没有答案。我们不能仓促行动,让国会做出可能损害国家安全的决定。" Anthropic首席执行官达里奥·阿莫迪在其呼吁放缓人工智能发展速度的文章中特别强调需要全球及联邦层面的合作。他写道:"最有效的调控方式是通过针对所有美国前沿人工智能公司的监管,因为这样即使对那些不愿自愿合作的企业也能产生约束。"并补充:"全球范围的协调需要与中国这个人工智能能力最发达的威权国家展开合作。" OpenAI首席执行官萨姆·奥特曼周三在联合国会议上呼吁建立国际标准,以"衡量能力、评估风险、确定安全保障是否充分,并保持对人工智能有意义的人类监督"。 Meta创始人兼首席执行官马克·扎克伯格则反对此类方案。他在周四播出的采访中告诉NBC新闻:"我认为不需要某种全行业协调机制。每家实验室都需要花时间,当发现问题时,他们只需在内部确保以安全方式推进工作。" 在州级层面,部分州长已开始着手监管人工智能公司及其用于开发的数据中心。加州州长加文·纽瑟姆上周签署行政令,成立专家委员会制定该州强化人工智能安全法律的计划。 本周,马里兰州州长韦斯·摩尔和纽约州州长凯西·霍楚尔也分别发布旨在加强本州人工智能监管的计划。摩尔的行政令建立"三管齐下"的监管方式,霍楚尔的方案则设立了数字创新、治理、诚信与信任办公室来监督人工智能公司的法律合规性。 微软总裁布拉德·史密斯本周在联合国人工智能与人类发展会议上批判了"人工智能公司必须等待联邦监管才能自我减速"的观点,并批评他们不断竞相开发更先进的人工智能产品。 史密斯举例道:"试想世界上只有两家生产商用飞机的大公司。如果有人走进你办公室说:'我知道我们正在竞赛抢先推出下一代飞机,但我们担心飞机会坠毁导致人员伤亡。'你会说'我必须赢得这场竞赛'吗?还是会说'我要把乘客安全和公众安全置于赢得竞赛之上'?这才是根本问题。"

相似文章