五大AI公司的一位联合创始人认为,即使所有人类都死亡,ASI也是值得的。
摘要
Larry Page,像Google这样的顶级AI公司的一位联合创始人,相信即使这会导致人类灭绝,实现人工超级智能也是正当的。
我在想Larry Page
相似文章
AI「教父」Yann LeCun:我对人类灭绝「零担忧」,Anthropic 首席执行官 Dario Amodei 的说法是「被蒙蔽了双眼」
Yann LeCun 表示,他对 AI 导致人类灭绝一事“零顾虑”,并称 Anthropic 首席执行官 Dario Amodei “被蒙蔽了双眼”。他主张 AI 风险被过度夸大,并将近期发生的“失控智能体”事件归咎于沙盒环境与监督机制的不完善,而非什么存在性威胁。
并非所有人都认为AI会终结我们
文章突出了行业人士对AI风险的分歧观点,其中像Hugging Face的CEO和Nvidia的Jensen Huang这样的领导者驳斥了末日情景,并强调安全担忧是可控的。
@satyanadella: 任何对超级智能的追求都必须基于这样一个核心原则:如果我们构建的AI不是在帮助人类……
Satya Nadella 指出,超级智能必须优先考虑人类利益和控制,呼吁建立一个平衡的AI生态系统,包括开放和封闭模型、企业对知识的控制,以及在对齐工作中的广泛代表。
AI教父 Geoffrey Hinton:「我们正在创造外星生物。我愿意自私一点,选择站在人类这边」
AI「教父」Geoffrey Hinton 加倍警告 AI 模型对人类构成生存威胁,并与 Nvidia 首席执行官黄仁勋公开发生分歧,后者驳斥 Hinton 的灭绝预言为「不科学」。
@typesfast: 我需要增持这家公司的股票。我从未见过如此不顾后果地致力于赚钱的……
一条由@typesfast发布的推文评论了AI安全,引用了Evan Hubinger的观点,他认为AI在十年内杀死所有人类的概率超过10%,并批评Anthropic缺乏超级智能对齐的明确计划。