为什么许多批评者轻视人工智能的风险?
摘要
本文分析了为何一些批评者轻视人工智能的风险,尤其是存在性威胁,原因是对当前人工智能能力的有限认知或将其视为炒作。
我参与人工智能讨论已有一段时间,发现似乎只有专业人士担心人工智能灭绝,这看似矛盾。对我而言,人工智能最大的风险在于长期存在性威胁。我认为,在一定程度上,这可以理解。许多人仍停留在人工智能的早期阶段,不了解当前能力的全貌,或将任何失调视为'营销噱头'。
相似文章
我们对这些风险究竟有多重视?
作者对AI生存风险表示担忧,认为'p(doom)'一词在该领域的流行,以及诺贝尔奖得主警告人类有10-20%的灭绝概率,这些都值得认真对待,而不仅仅是对AI公司CEO的说辞持怀疑态度。
AI最激烈的批评者表示,所有末日言论都是‘旨在分散注意力’
采访AI研究员Timnit Gebru,他批判人工智能行业过度强调存在风险,认为这转移了对实际危害的关注,尤其是在OpenAI和Anthropic相关事件频发的背景下。
非技术人员对AI风险的认知
文章探讨了AI的现实风险,重点关注企业和政府的算法决策如何导致偏见、人类冗余以及错误拒绝和心理健康成本等社会危害。
担心人工智能终结人类?揭秘真实情况。
文章探讨了由Anthropic员工社交媒体发言引发的AI生存风险恐慌,指出这种恐惧或为营销或监管所夸大,并凸显了有效AI治理的不足。
@EricLevitz:AI 公司是否在夸大其技术的灾难性尾部风险,以转移媒体对实际危害的关注……
Vox 分析文章探讨 AI 公司领袖频繁警告存在性风险是否为公关策略,结论认为这些警告更多反映了高管和研究者真实的担忧,而非为了吸引投资或转移对 AI 现实危害的注意力。