@KevinBankston:情况类似。我仍对某些 AI 安全主义的正统观念及论证方式持有异议,但 2023–2024 年的……
摘要
Kevin Bankston 表示,到 2026 年,他对模糊的 AI “失控” 风险的怀疑已有所减弱,因为这些风险已不再显得模糊;尽管他仍对某些 AI 安全主义的正统观点持有异议。
情况类似。我仍对某些 AI 安全主义的正统观念及论证方式持有异议,但 2023–2024 年的 Kevin 对模糊的“失控”风险要怀疑得多。2026 年的 Kevin 则不再如此,因为这些风险已不再模糊。
查看缓存全文
缓存时间: 2026/09/06 14:48
处境类似。我仍对 AI 安全主义的一些正统观念和论证方式持有异议,但 2023-2024 年的 Kevin 对那种模糊的“失控”风险要怀疑得多。2026 年的 Kevin 不再如此,因为这些风险已不再模糊。
Seth Lazar (@sethlazar): 说这些可能没多大用处,但我一度在“怀疑论者”阵营中扮演过相当重要的角色。我即将出版一本副标题为“power, justice, and AI”的书。我曾大量撰写关于 AI 与权力,以及与之相关的具体的、当下的风险的内容,associated with the
相似文章
@sebkrier:最近我的思维方式发生了一些变化:1. 我不再那么担心那些对AI缺乏好奇心的人,因为我预计他们最…
Séb Krier 分享了他对AI普及和工作自动化的思考演变,指出他不再那么担心缺乏好奇心的人,而更担心高估工作替代速度的问题。
@alexkesin: 2/2 其次,关于AI的信息传递。我不同意我的信息传递过于负面。事实上……
本文主张对AI风险与益处的平衡沟通,作者表示已分别就两者撰写了重要文章,并在访谈中探讨了风险。
@VraserX: AI不会因为技术碰壁而放缓。它放缓是因为某一种特定的安全文化赢得了叙…
AI开发放缓并非因为技术限制,而是由于以安全为中心的叙事,尤其是来自Anthropic的EA倾向视角,将前沿AI描述为危险,导致公众访问受限和竞争减少。
AI 2040与智能崇拜
George Hotz 批评了AI安全与硬起飞叙事,认为现实世界的工程约束使得这些场景不可信,并主张用户对齐的本地AI而非受监管的云模型。
AI安全与对齐
文章讨论了对AI安全与对齐的担忧,随着AI变得更智能并融入社会,文章引用了Anthropic呼吁暂停以应对潜在的灾难性风险。