Anthropic研究员的末日警告来得正是时候
摘要
一位Anthropic研究员辞职并警告公司正冲向自我改进的超级智能,在IPO准备期间引发安全担忧,这在一期TechCrunch播客中讨论,该播客涵盖了AI安全、苹果专注于AI的硬件活动,以及科技和航天初创公司的大额融资轮次。
本周,一位Anthropic研究员辞职, 并在X上发布帖子警告称,公司“正直奔自我改进的超级智能,并在拿我们的生命赌博”。 公司自身的对齐负责人甚至 联合签署了该信息 而非撤回。 这是AI行业之前曾涉及的那种末日警告,但时机——据报道Anthropic正在 准备IPO——使其产生不同的影响。  On […]
查看缓存全文
缓存时间: 2026/09/11 20:23
# Anthropic研究员的末日警告出现在一个非常有趣的时刻
来源:https://techcrunch.com/podcast/an-anthropic-researchers-doomsday-warning-comes-at-a-very-interesting-time/
本周,一位Anthropic研究员辞职,并在X平台(https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/)发文警告,称公司正在"直奔可自我改进的超级智能,并拿我们的生命当赌注"。公司的首席对齐负责人甚至联署了这条信息(https://x.com/EvanHub/status/2097497037956891126),而没有进行澄清。这类似于AI行业此前曾出现过的末日论警告,但由于时机——据报道Anthropic正为首次公开募股(IPO)做准备——这次警告的影响有所不同。
在本期TechCrunch的《Equity》(https://techcrunch.com/podcasts/equity/)播客中,主持人Kirsten Korosec、Anthony Ha和Sean O’Kane深入探讨了最新的AI安全警告,以及它反映了行业在打造能力日益强大模型方面的竞赛。此外,节目还讨论了John Ternus担任CEO后Apple举办的首场大型活动(https://techcrunch.com/2026/09/09/everything-apple-announced-at-its-fall-iphone-event-from-the-foldable-iphone-duo-to-an-always-listening-apple-watch/)以及本周更多头条新闻。
收听完整节目了解更多:
- 为何Apple在其硬件活动中大力强调AI(https://techcrunch.com/2026/09/09/apple-ceo-john-ternus-says-the-best-ai-device-is-still-the-iphone/),以及内置于Apple Watch和AirPods的"常在线"功能(https://techcrunch.com/2026/09/09/apple-watchs-new-ai-features-are-normalizing-the-idea-that-technology-is-always-listening/)可能比炫酷的新款折叠iPhone更重要
- Stoke Space如何通过10亿美元融资(https://techcrunch.com/2026/09/08/stoke-space-raises-another-billion-to-rival-spacex-at-re-flying-rockets/)反映了一个因SpaceX退役Falcon火箭而突然开放的发射市场
- 为何投资者向编程初创公司Cognition投入20亿美元(https://techcrunch.com/2026/09/08/cognition-hits-48b-valuation-signaling-investors-believe-ai-coding-is-far-from-a-winner-take-all-market/),估值达480亿美元,以及这反映了风投对AI编程领域剩余空间的看法
- 浮动核反应堆获得5000万美元种子轮融资(https://techcrunch.com/2026/09/08/nuclear-startup-bluecore-energy-raises-50m-seed-round-just-two-months-after-launch/),以及为AI数据中心供电的竞争
在YouTube(https://www.youtube.com/@TechCrunch)、Apple Podcasts(https://itunes.apple.com/us/podcast/id1215439780)、Overcast(https://overcast.fm/itunes1215439780/equity)、Spotify(https://open.spotify.com/show/5IEYLip3eDppcOmy5DmphC?si=rZDFHv2sQUul_g94iCRgpQ)和所有播客平台上订阅《Equity》。您也可以在X平台(https://twitter.com/EquityPod)和Threads(https://www.threads.net/@equitypod)关注@EquityPod。
Theresa Loconsolo是TechCrunch的音频制作人,专注于网络旗舰播客《Equity》。2022年加入TechCrunch之前,她曾是一家四台集团的两名制作人之一,负责撰稿、录制、配音和编辑内容,并策划了现场表演和对lovelytheband等嘉宾的采访。Theresa居住在新泽西州,拥有蒙茅斯大学传播学学士学位。
您可以通过电子邮件[[email protected]](mailto:[email protected])联系或核实Theresa的邀约。
查看个人简介(https://techcrunch.com/author/theresa-loconsolo/)
Anthony Ha是TechCrunch的周末编辑。此前,他曾担任Adweek的科技记者、VentureBeat的高级编辑、Hollister Free Lance的地方政府记者,以及一家风投公司的内容副总裁。现居纽约市。
您可以通过电子邮件[[email protected]](mailto:[email protected])联系或核实Anthony的邀约。
查看个人简介(https://techcrunch.com/author/anthony-ha/)
Sean O’Kane是一名记者,十年来一直报道交通行业快速发展的商业和技术,包括Tesla以及众多追随Elon Musk的初创公司。最近,他是Bloomberg News的记者,协助揭露了一些最臭名昭著的电动汽车SPAC失败案例。此前,他在The Verge工作,同样报道消费技术,主持过多段视频,进行产品和编辑摄影,并曾在红牛飞行大赛的飞机上几乎晕倒。
您可以通过电子邮件[[email protected]](mailto:[email protected])或通过Signal加密消息okane.01联系或核实Sean的邀约。
查看个人简介(https://techcrunch.com/author/sean-okane/)
Kirsten Korosec是一名记者和编辑,十多年来一直报道交通的未来,涵盖电动汽车、自动驾驶汽车、城市空中交通和车载技术。她目前是TechCrunch的交通编辑和TechCrunch《Equity》播客的联合主持人。她还是播客"The Autonocast"的联合创始人兼联合主持人。此前,她曾为Fortune、The Verge、Bloomberg、MIT Technology Review和CBS Interactive撰稿。
您可以通过电子邮件[[email protected]](mailto:[email protected])或通过Signal加密消息kkorosec.07联系或核实Kirsten的邀约。
查看个人简介(https://techcrunch.com/author/kirsten-korosec/)
## 最受欢迎
相似文章
Anthropic研究员辞职并警告:自我改进的AI可能"杀死我们所有人"
一位Anthropic研究员辞职,警告自我改进的AI可能对人类构成存在性风险,这一担忧得到了Anthropic对齐科学负责人的呼应。
AI行业最新末日警告的真相
文章分析了AI行业关于存在风险的激烈争论,起因于一名研究员从Anthropic辞职,并声称AI极有可能导致人类灭绝,同时质疑了这些说法的可信度和影响。
@Reuters: 独家:Anthropic计划在其IPO中警告潜在投资者,先进人工智能可能带来‘灾难性或存在性风险’
Anthropic计划在其IPO中警告潜在投资者,先进人工智能可能对人类构成灾难性或存在性风险,这是一项来自从中获利的公司的非凡警告。
刚刚辞去Anthropic工作的AI研究人员称这是‘人类的关键时刻’
AI研究人员Jacob Coxon从Anthropic辞职,并警告说接下来的一两年是AI安全领域‘人类的关键时刻’,敦促各方协调以防止先进AI系统带来灾难性风险。
Anthropic 的 S-1 上市申请文件也是一份 AI 末日入门读物
Anthropic 的 IPO 招股说明书用 94 页篇幅阐述风险因素,警告称,递归式自我改进和自主性日益增强的 AI 系统可能给人类带来灾难性乃至生存风险,而与此同时,该公司仍在 AI 军备竞赛中加速前进。