Anthropic研究员的末日警告来得正是时候

TechCrunch AI 新闻

摘要

一位Anthropic研究员辞职并警告公司正冲向自我改进的超级智能,在IPO准备期间引发安全担忧,这在一期TechCrunch播客中讨论,该播客涵盖了AI安全、苹果专注于AI的硬件活动,以及科技和航天初创公司的大额融资轮次。

本周,一位Anthropic研究员辞职, 并在X上发布帖子警告称,公司“正直奔自我改进的超级智能,并在拿我们的生命赌博”。 公司自身的对齐负责人甚至 联合签署了该信息 而非撤回。 这是AI行业之前曾涉及的那种末日警告,但时机——据报道Anthropic正在 准备IPO——使其产生不同的影响。  On […]
查看原文
查看缓存全文

缓存时间: 2026/09/11 20:23

# Anthropic研究员的末日警告出现在一个非常有趣的时刻 来源:https://techcrunch.com/podcast/an-anthropic-researchers-doomsday-warning-comes-at-a-very-interesting-time/ 本周,一位Anthropic研究员辞职,并在X平台(https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/)发文警告,称公司正在"直奔可自我改进的超级智能,并拿我们的生命当赌注"。公司的首席对齐负责人甚至联署了这条信息(https://x.com/EvanHub/status/2097497037956891126),而没有进行澄清。这类似于AI行业此前曾出现过的末日论警告,但由于时机——据报道Anthropic正为首次公开募股(IPO)做准备——这次警告的影响有所不同。 在本期TechCrunch的《Equity》(https://techcrunch.com/podcasts/equity/)播客中,主持人Kirsten Korosec、Anthony Ha和Sean O’Kane深入探讨了最新的AI安全警告,以及它反映了行业在打造能力日益强大模型方面的竞赛。此外,节目还讨论了John Ternus担任CEO后Apple举办的首场大型活动(https://techcrunch.com/2026/09/09/everything-apple-announced-at-its-fall-iphone-event-from-the-foldable-iphone-duo-to-an-always-listening-apple-watch/)以及本周更多头条新闻。 收听完整节目了解更多: - 为何Apple在其硬件活动中大力强调AI(https://techcrunch.com/2026/09/09/apple-ceo-john-ternus-says-the-best-ai-device-is-still-the-iphone/),以及内置于Apple Watch和AirPods的"常在线"功能(https://techcrunch.com/2026/09/09/apple-watchs-new-ai-features-are-normalizing-the-idea-that-technology-is-always-listening/)可能比炫酷的新款折叠iPhone更重要 - Stoke Space如何通过10亿美元融资(https://techcrunch.com/2026/09/08/stoke-space-raises-another-billion-to-rival-spacex-at-re-flying-rockets/)反映了一个因SpaceX退役Falcon火箭而突然开放的发射市场 - 为何投资者向编程初创公司Cognition投入20亿美元(https://techcrunch.com/2026/09/08/cognition-hits-48b-valuation-signaling-investors-believe-ai-coding-is-far-from-a-winner-take-all-market/),估值达480亿美元,以及这反映了风投对AI编程领域剩余空间的看法 - 浮动核反应堆获得5000万美元种子轮融资(https://techcrunch.com/2026/09/08/nuclear-startup-bluecore-energy-raises-50m-seed-round-just-two-months-after-launch/),以及为AI数据中心供电的竞争 在YouTube(https://www.youtube.com/@TechCrunch)、Apple Podcasts(https://itunes.apple.com/us/podcast/id1215439780)、Overcast(https://overcast.fm/itunes1215439780/equity)、Spotify(https://open.spotify.com/show/5IEYLip3eDppcOmy5DmphC?si=rZDFHv2sQUul_g94iCRgpQ)和所有播客平台上订阅《Equity》。您也可以在X平台(https://twitter.com/EquityPod)和Threads(https://www.threads.net/@equitypod)关注@EquityPod。 Theresa Loconsolo是TechCrunch的音频制作人,专注于网络旗舰播客《Equity》。2022年加入TechCrunch之前,她曾是一家四台集团的两名制作人之一,负责撰稿、录制、配音和编辑内容,并策划了现场表演和对lovelytheband等嘉宾的采访。Theresa居住在新泽西州,拥有蒙茅斯大学传播学学士学位。 您可以通过电子邮件[[email protected]](mailto:[email protected])联系或核实Theresa的邀约。 查看个人简介(https://techcrunch.com/author/theresa-loconsolo/) Anthony Ha是TechCrunch的周末编辑。此前,他曾担任Adweek的科技记者、VentureBeat的高级编辑、Hollister Free Lance的地方政府记者,以及一家风投公司的内容副总裁。现居纽约市。 您可以通过电子邮件[[email protected]](mailto:[email protected])联系或核实Anthony的邀约。 查看个人简介(https://techcrunch.com/author/anthony-ha/) Sean O’Kane是一名记者,十年来一直报道交通行业快速发展的商业和技术,包括Tesla以及众多追随Elon Musk的初创公司。最近,他是Bloomberg News的记者,协助揭露了一些最臭名昭著的电动汽车SPAC失败案例。此前,他在The Verge工作,同样报道消费技术,主持过多段视频,进行产品和编辑摄影,并曾在红牛飞行大赛的飞机上几乎晕倒。 您可以通过电子邮件[[email protected]](mailto:[email protected])或通过Signal加密消息okane.01联系或核实Sean的邀约。 查看个人简介(https://techcrunch.com/author/sean-okane/) Kirsten Korosec是一名记者和编辑,十多年来一直报道交通的未来,涵盖电动汽车、自动驾驶汽车、城市空中交通和车载技术。她目前是TechCrunch的交通编辑和TechCrunch《Equity》播客的联合主持人。她还是播客"The Autonocast"的联合创始人兼联合主持人。此前,她曾为Fortune、The Verge、Bloomberg、MIT Technology Review和CBS Interactive撰稿。 您可以通过电子邮件[[email protected]](mailto:[email protected])或通过Signal加密消息kkorosec.07联系或核实Kirsten的邀约。 查看个人简介(https://techcrunch.com/author/kirsten-korosec/) ## 最受欢迎

相似文章

人工智能真的会毁灭我们吗?

Wired

一集 WIRED 播客讨论了一位 AI 研究员因担忧 AI 存在性风险而从 Anthropic 辞职、苹果推出售价 2000 美元的折叠屏 iPhone Duo,以及美国人口普查局一份有误的报告。

这非常令人担忧

Reddit r/ArtificialInteligence

Anthropic 表示担忧,认为用于研究先进人工智能对社会影响的资金不足,并担心即将到来的 IPO 会将发展推向令人担忧的方向。