@DouthatNYT: 以下是由教皇通谕引发的一个观点,我将其作为粗略想法抛出,因为它可能是错误的……

X AI KOLs Timeline 新闻

摘要

一篇评论文章认为,鉴于人工智能发展的权力集中在少数主体手中,教皇关于人工智能的言论应从假设性的结构解决方案转向直接与掌握决策权的前沿公司和国家领导人对话。

以下是由教皇通谕引发的一个观点,我将其作为粗略想法抛出,因为它可能是错误的。教皇言论的惯常做法是从结构和体系的角度谈论全球问题,而非针对具体领导人或民族国家。例如,在新通谕中对人工智能进行温和约束的呼吁中,始终一致的想法是,我们需要某种中立跨国权威机构来制定“明确的标准和有效的监督”,具体细节待定。这种言论模式之所以存在,除了教会长期以来的国际主义倾向外,还有以下原因:结构和体系的话语避免了政治的个人化风险,即避免看起来在“点名批评”某个政府或行为体。但这也带来了在21世纪背景下听起来乌托邦且不切实际的风险,尤其是在人工智能方面,实际上只有极少数行为体——中美两国政府、前沿公司的领导者——承担了几乎所有的决策权重。在这样的环境中,我们似乎更接近一种中世纪模式:教会可以说是唯一具有重要性的跨国组织(毫无疑问,教皇利奥已经证明许多人*非常*关注罗马对人工智能的看法,而如果联合国就此事发布一份重要文件,则无人会在意),而梵蒂冈则处于与一群王公贵族(包括企业领袖、独裁者以及民主选举产生的领导人)辩论和劝说的位置,这些人的人选择很可能决定这项技术的发展方向。(例如,特朗普白宫内部就其未发布的人工智能行政令持续争论的情况。)我想知道,教皇的言论是否应该有益地适应这一现实——不必点名批评特朗普、习近平、萨姆·奥尔特曼或达里奥·阿莫迪,或者说并非必须如此——而是为当今的领导人及其顾问提供更明确的建议,关于他们独特的权力、随之而来的道德义务,以及如果他们严重搞砸了事情,等待他们的上帝的审判。你可以在梵蒂冈的现有文件中找到一些这方面的内容,但平衡点总是偏向于假设性的结构解决方案。我认为,在我们当前所处以及可能走向的境地——例如,在加速和潜在危机的条件下做出关于人工智能的选择——有理由将实际的决策者视为关键行动者,而不是总是设想一个完全不同的世界。
查看原文

相似文章

@DavidSacks: 教皇正确指出,人工智能必须服务于人类尊严,而非成为支配或排斥的工具。但若我们将人工智能发展的广泛权力交给政府,以安全为名,又如何防止其被用于审查、监视和控制公民——正如奥威尔在《1984》中所预言?这才是真正的对齐问题。'Quis custodiet ipsos custodes.' 谁来守护守护者?'权力导致腐败,绝对的权力绝对导致腐败。' 人性与权威的古老问题在人工智能时代并未消失,反而焕发新的意义。

X AI KOLs Following

David Sacks警告,若政府掌控人工智能发展,可能导致审查与监视,引用了奥威尔的《1984》以及古老的“谁来守护守护者”之问。

教宗谈人工智能与劳动力市场

Reddit r/ArtificialInteligence

作者对教宗良关于人工智能与劳动力市场的通谕进行了反思,认为尽管历史趋势表明AI可能不会导致大规模失业,但极端情况可能导致人类失去自主性,而禁止AI是不切实际的,基于市场的解决方案也不明确。

@ch402: https://x.com/ch402/status/2058907108725211476

X AI KOLs Following

Anthropic联合创始人在梵蒂冈的Magnifica Humanitas上发表讲话,呼吁社会广泛参与塑造人工智能的未来,并提出了三个关键问题进行辨别,包括对全球贫困人口的责任。