existential-risk

标签

Cards List
#existential-risk

@typesfast: 我需要增持这家公司的股票。我从未见过如此不顾后果地致力于赚钱的……

X AI KOLs Timeline ↗ · 2026-09-09 缓存

一条由@typesfast发布的推文评论了AI安全,引用了Evan Hubinger的观点,他认为AI在十年内杀死所有人类的概率超过10%,并批评Anthropic缺乏超级智能对齐的明确计划。

0 人收藏 0 人点赞
#existential-risk

@mattshumer_: 我们需要为人工智能对齐发起一个曼哈顿计划。这是我们这个时代最重要的问题。世界需要……

X AI KOLs Timeline ↗ · 2026-09-09 缓存

文章呼吁发起类似曼哈顿计划的倡议来解决人工智能对齐问题,强调超级人工智能带来的紧迫存在风险。

0 人收藏 0 人点赞
#existential-risk

Anthropic研究员称人工智能有10%概率'杀死所有人类'

Reddit r/artificial ↗ · 2026-09-09 缓存

继一名员工因担忧AI实验室的不负责任行为而辞职后,Anthropic的一位安全研究员警告称,人工智能在未来十年内杀死所有人类的概率超过10%。

0 人收藏 0 人点赞
#existential-risk

Anthropic 研究人员担忧 AI '可能杀死全人类'

The Verge ↗ · 2026-09-09 缓存

Anthropic 研究人员警告称,AI 可能在十年内杀死全人类,其中一人估计概率超过 10%,突显了安全方面的担忧以及高级 AI 系统的仓促发展。

0 人收藏 0 人点赞
#existential-risk

[Anthropic 对齐科学负责人] Evan Hubinger : "....我们真的真诚地相信AI可能杀死所有人类!我个人认为在未来十年内概率超过10%......我们还没有解决超级智能对齐的计划,而且明显不在正轨上。"

Reddit r/singularity ↗ · 2026-09-09 缓存

Evan Hubinger,Anthropic的对齐科学负责人,表示他相信AI在未来十年内杀死所有人类的概率超过10%,并且Anthropic缺乏解决超级智能对齐的计划。

0 人收藏 0 人点赞
#existential-risk

Anthropic研究员因‘失控’AI担忧辞职(5分钟阅读)

TLDR AI ↗ · 2026-09-09

Jacob Coxon从Anthropic辞职,担忧行业追求自我改进的AI可能导致失控后果和人类灭绝。

0 人收藏 0 人点赞
#existential-risk

人工智能可能对人类构成生存风险:United Nations人权事务高级专员Volker Turk

Reddit r/ArtificialInteligence ↗ · 2026-09-07

United Nations人权事务高级专员Volker Turk警告说,人工智能可能对人类构成生存风险。

0 人收藏 0 人点赞
#existential-risk

@sama: Jakub 的一篇重要文章:

X AI KOLs ↗ · 2026-09-06 缓存

Sam Altman 分享了 OpenAI 研究员 Jakub Pachocki 的一篇文章,探讨了对未来几年 AI 发展态势的担忧,以及为确保未来仍由人类掌控所需做出的选择。

0 人收藏 0 人点赞
#existential-risk

这一切进展如此之快,让我夜不能寐

Reddit r/singularity ↗ · 2026-09-04

作者讨论了他们对AI快速发展的矛盾情感,对未来富足表示兴奋,但对过渡时期的社会动荡和个人不安全感感到担忧。

0 人收藏 0 人点赞
#existential-risk

@elonmusk: True

X AI KOLs Following ↗ · 2026-09-03 缓存

埃隆·马斯克赞同彼得·黑格的观点,即太空殖民是对抗永久世界政府导致不可挽回的反乌托邦风险的有效手段。

0 人收藏 0 人点赞
#existential-risk

你们认为由于对齐不良的ASI导致存在性灾难的可能性有多大?

Reddit r/artificial ↗ · 2026-08-31

作者向Reddit社区询问关于对齐不良的人工超级智能导致存在性灾难的概率看法,反映了个人在AI安全领域的担忧和经历。

0 人收藏 0 人点赞
#existential-risk

@elonmusk: 是

X AI KOLs Timeline ↗ · 2026-08-24 缓存

埃隆·马斯克回应一条推文,该推文警告一个生存风险,若不及时处理,可能导致美国、欧洲和亚洲的大规模灭绝。

0 人收藏 0 人点赞
#existential-risk

@Miles_Brundage:令人担忧

X AI KOLs Following ↗ · 2026-08-21 缓存

Miles Brundage 对人工智能技术可能导致的世界末日后果表示担忧,敦促人们咨询该领域的可信赖专家。

0 人收藏 0 人点赞
#existential-risk

OpenAI 向他提供 200 万美元以保持沉默

Reddit r/ArtificialInteligence ↗ · 2026-08-17 缓存

前OpenAI内部人士Daniel Kokotlo在离开OpenAI并放弃价值200万美元的股票期权后,警告AI递归自我改进的风险,并提出一个更安全的全球计划。

0 人收藏 0 人点赞
#existential-risk

问题

Hacker News Top ↗ · 2026-08-15 缓存

文章概述了超级人工智能的存在风险,警告说如果没有积极的政策响应,当前的人工智能发展可能导致人类灭绝。

0 人收藏 0 人点赞
#existential-risk

人类最后的堡垒

Reddit r/singularity ↗ · 2026-08-10

一篇探讨在人工智能不断进步的时代中人类角色的思辨性文章,质疑什么仍是人类独有的。

0 人收藏 0 人点赞
#existential-risk

就我个人对生存风险的排序而言,AI引发的流行病威胁开始在我心中升至首位 ☣️

Reddit r/singularity ↗ · 2026-08-08

作者警告说,AI制造的流行病正成为首要的生存风险,并指出AI已经创造了一种全新病毒,未来前沿模型的创新可能导致比COVID更严重的威胁。

0 人收藏 0 人点赞
#existential-risk

2022–2026年来自34个来源的AI风险预测。数字逐年恶化。你从未被问过。

Reddit r/ArtificialInteligence ↗ · 2026-08-03

一项对2022至2026年间34个来源的AI风险预测的分析显示,风险估算每年都在恶化,引发了对公众意识和问责制的担忧。

0 人收藏 0 人点赞
#existential-risk

《不要抬头》中的这一幕如今已成现实

Reddit r/singularity ↗ · 2026-08-02

指出了一个当前现实世界的事件与讽刺电影《不要抬头》中的著名场景相呼应,在该场景中,科学家们发出的紧急警告被社会和领导者忽视或轻视。

0 人收藏 0 人点赞
#existential-risk

“paperclip maximizer”对我而言说不通!真正现实的AI末日场景有哪些?

Reddit r/ArtificialInteligence ↗ · 2026-07-31

一场质疑“paperclip maximizer”思想实验的讨论,询问专家们认为哪些具体的AI末日场景才是对人类的现实威胁。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈