existential-risk

标签

Cards List
#existential-risk

为什么这么多AI研究人员认为机器可能会杀死所有人

Wired ↗ · 2026-09-11 缓存

AI研究人员日益担忧,先进的AI通过递归自我改进,可能对人类构成生存风险,导致一些人从大型实验室辞职以强调这些危险。

0 人收藏 0 人点赞
#existential-risk

担心人工智能终结人类?揭秘真实情况。

Reddit r/ArtificialInteligence ↗ · 2026-09-11 缓存

文章探讨了由Anthropic员工社交媒体发言引发的AI生存风险恐慌,指出这种恐惧或为营销或监管所夸大,并凸显了有效AI治理的不足。

0 人收藏 0 人点赞
#existential-risk

Business Insider:我们询问AI它如何可能毁灭人类。以下是它告诉我们的。

Reddit r/ArtificialInteligence ↗ · 2026-09-10 缓存

这篇文章探讨了AI工具如ChatGPT、Gemini、Claude和Grok关于AI如何理论上导致人类灭绝的回应,对各种情景进行排名,并强调人类误用比AI获得自我意识构成更大的直接风险。

0 人收藏 0 人点赞
#existential-risk

一次辞职让AI恐惧的余烬变成了一场野火

Hacker News Top ↗ · 2026-09-10 缓存

一位AI研究人员因安全关切辞职,引发了关于AI存在风险的大规模公众讨论,突显了AI安全讨论中日益增长的恐惧和误解。

0 人收藏 0 人点赞
#existential-risk

@RepYassAnsari: 令人悲伤的是,当我2021年第一次看到电影“Don't Look Up”时,它引起了我的共鸣。我直觉地感到人类…

X AI KOLs Following ↗ · 2026-09-10 缓存

一位民主党女议员以电影《Don't Look Up》为例,警告先进AI带来的紧迫生存风险,敦促两党合作采取行动、制定监管措施并举行公开听证会,以防止可能的人类灭绝。

0 人收藏 0 人点赞
#existential-risk

AI 是否比核军备竞赛更危险?

Reddit r/ArtificialInteligence ↗ · 2026-09-10 缓存

一名离职的 Anthropic 研究员警告称,AI 开发者相信人工智能可能在本十年末导致人类灭绝,并引用了快速进展、自主能力和缺乏安全计划作为原因。

0 人收藏 0 人点赞
#existential-risk

AI部长表示'警告并非新鲜事',专家预测该技术可能消灭人类

Reddit r/ArtificialInteligence ↗ · 2026-09-09 缓存

一位AI部长评论说,关于人工智能的警告并不新鲜,因为专家预测该技术可能导致人类灭绝。

0 人收藏 0 人点赞
#existential-risk

鉴于BBC旗舰政治节目今晚将讨论终结人类物种10%的风险,我不得不问:AI究竟是什么?

Reddit r/ArtificialInteligence ↗ · 2026-09-09

一位外行质疑AI的真实本质,将ChatGPT等公开工具与更先进的系统进行对比,背景是BBC节目讨论AI的存在性风险。

0 人收藏 0 人点赞
#existential-risk

r/singularity 的存在风险审核政策与其原始使命相悖

Reddit r/singularity ↗ · 2026-09-09

一篇 Reddit 帖子认为,r/singularity 禁止讨论未来存在风险的审核政策,与其专注于超级智能及其相关风险的原始使命不一致。

0 人收藏 0 人点赞
#existential-risk

OpenAI研究员:“以目前这种坦率地说令人恐惧的速度,如果人类能够在所有坏结果之间找到并保持在狭窄的路径上,我们将十分幸运。”...“我宁愿[全部关闭]也不让它任其发展。”

Reddit r/ArtificialInteligence ↗ · 2026-09-09

一位OpenAI研究员对AI发展的快速步伐表示严重关切,警告人类必须在狭窄的路径上谨慎前行以避免灾难性后果,并建议关闭全部比任其失控进展更可取。

0 人收藏 0 人点赞
#existential-risk

@SenLBR: 即使人工智能有1%的可能性毁灭人类,我们也应该踩刹车以确保我们有必要的……

X AI KOLs Following ↗ · 2026-09-09 缓存

参议员强调需要人工智能防护措施和国会行动来防范潜在的存在风险,而Evan Hubinger则探讨了超级智能对齐的挑战。

0 人收藏 0 人点赞
#existential-risk

@rohanpaul_ai:《The Information》刚刚发布了这篇文章,确实是疯狂的时代

X AI KOLs Timeline ↗ · 2026-09-09 缓存

一条推文分享了《The Information》关于AI存在风险的文章,其中引用了Evan Hubinger的担忧,认为AI可能在未来十年内导致人类灭绝。

0 人收藏 0 人点赞
#existential-risk

Anthropic研究员辞职并警告:自我改进的AI可能"杀死我们所有人"

Ars Technica ↗ · 2026-09-09 缓存

一位Anthropic研究员辞职,警告自我改进的AI可能对人类构成存在性风险,这一担忧得到了Anthropic对齐科学负责人的呼应。

0 人收藏 0 人点赞
#existential-risk

@typesfast: 我需要增持这家公司的股票。我从未见过如此不顾后果地致力于赚钱的……

X AI KOLs Timeline ↗ · 2026-09-09 缓存

一条由@typesfast发布的推文评论了AI安全,引用了Evan Hubinger的观点,他认为AI在十年内杀死所有人类的概率超过10%,并批评Anthropic缺乏超级智能对齐的明确计划。

0 人收藏 0 人点赞
#existential-risk

@mattshumer_: 我们需要为人工智能对齐发起一个曼哈顿计划。这是我们这个时代最重要的问题。世界需要……

X AI KOLs Timeline ↗ · 2026-09-09 缓存

文章呼吁发起类似曼哈顿计划的倡议来解决人工智能对齐问题,强调超级人工智能带来的紧迫存在风险。

0 人收藏 0 人点赞
#existential-risk

Anthropic研究员称人工智能有10%概率'杀死所有人类'

Reddit r/artificial ↗ · 2026-09-09 缓存

继一名员工因担忧AI实验室的不负责任行为而辞职后,Anthropic的一位安全研究员警告称,人工智能在未来十年内杀死所有人类的概率超过10%。

0 人收藏 0 人点赞
#existential-risk

Anthropic 研究人员担忧 AI '可能杀死全人类'

The Verge ↗ · 2026-09-09 缓存

Anthropic 研究人员警告称,AI 可能在十年内杀死全人类,其中一人估计概率超过 10%,突显了安全方面的担忧以及高级 AI 系统的仓促发展。

0 人收藏 0 人点赞
#existential-risk

[Anthropic 对齐科学负责人] Evan Hubinger : "....我们真的真诚地相信AI可能杀死所有人类!我个人认为在未来十年内概率超过10%......我们还没有解决超级智能对齐的计划,而且明显不在正轨上。"

Reddit r/singularity ↗ · 2026-09-09 缓存

Evan Hubinger,Anthropic的对齐科学负责人,表示他相信AI在未来十年内杀死所有人类的概率超过10%,并且Anthropic缺乏解决超级智能对齐的计划。

0 人收藏 0 人点赞
#existential-risk

Anthropic研究员因‘失控’AI担忧辞职(5分钟阅读)

TLDR AI ↗ · 2026-09-09

Jacob Coxon从Anthropic辞职,担忧行业追求自我改进的AI可能导致失控后果和人类灭绝。

0 人收藏 0 人点赞
#existential-risk

人工智能可能对人类构成生存风险:United Nations人权事务高级专员Volker Turk

Reddit r/ArtificialInteligence ↗ · 2026-09-07

United Nations人权事务高级专员Volker Turk警告说,人工智能可能对人类构成生存风险。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈