ai-warning

一位Anthropic研究员辞职并警告公司正冲向自我改进的超级智能，在IPO准备期间引发安全担忧，这在一期TechCrunch播客中讨论，该播客涵盖了AI安全、苹果专注于AI的硬件活动，以及科技和航天初创公司的大额融资轮次。

英国议员敦促首相安迪·伯纳姆支持禁止人工超级智能（ASI），专家警告称其可能带来人类灭绝风险。

Miles Brundage的一条推文强调了人们忽略Ilya Sutskever关于AI奇点明确警告的倾向。

Bill Gates发布5784字AI警告，强调缺乏全面计划。本文总结了其警示的三个要点。

Microsoft CEO Satya Nadella 警告公司不要依赖单一AI模型提供商，建议他们保留对数据和提示的控制，以避免外包思考并保持灵活性。

微软CEO Satya Nadella警告说，使用来自OpenAI和Anthropic等实验室的AI模型的公司，正在不知不觉中交出专有商业数据，并倡导公司保留数据所有权，构建协调层以在不同模型之间切换。

本期通讯涵盖两大AI新闻：山姆·奥特曼提议美国政府获得OpenAI 5%股份（价值每户320美元），以及一份泄露的财政部报告警告AI市场泡沫。还包括三星AI芯片利润更新和CISA使用Anthropic的Mythos。

一篇批判性分析警告：许多Qwen/Claude蒸馏模型使用的训练样本太少（如4K），无法转移实际能力，与DeepSeek-R1等使用约70万样本的官方蒸馏相比，常常反而降低质量而非提升。

随着人工智能持续快速发展，数学家们发出警告，引发了对潜在风险和伦理影响的担忧。

Geoffrey Hinton 从 Google 辞职后发表演讲，警告 AI 正在进化出创造者都无法预料的能力，人类在大部分认知领域已被甩在后面，机器超越人类只是时间问题。