将面向公众的暂停前沿模型与一般AI研究混淆是一个大问题
摘要
本文区分了前沿AI模型（如大型语言模型）和专门的AI研究（如AlphaFold、癌症检测），认为出于安全原因暂停前者不应阻碍后者，后者提供了明确的社会效益。
正如我们最近在《大西洋月刊》上看到的那篇关于暂停AI甚至冒着延迟癌症治疗风险的文章，我认为公众对前沿模型和一般AI之间存在根本性的误解。例如，可以认为由于大量问题，应该放慢向公众发布前沿模型的进度。但同时，也可以认为AI实验室应继续推进真正重要的特定AI项目，比如AlphaFold和癌症检测。用于危险工作的实体AI、外骨骼等。我记得读过一篇关于一位研究AI生物医学问题的研究员被调去研究前沿模型，以及他们有多么失望的文章。这个问题似乎部分源于西方对AGI的痴迷，而这主要源于科幻文化。我们为什么要通过与人能力比较来限制AI的潜力？谁在乎？我读到像中国这样的国家没有这种痴迷，而是推动窄AI项目，他们的人口对AI的态度要正面得多。主要问题似乎是生成式AI没有明确的商业模式。AI公司需要盈利的业务才能发展所需的能力和基础设施。我看不出像OpenAI这样的公司如何能实现这一点。他们似乎在尝试免费增值模式，并试图吸引用户上瘾，这是一种通用的软件策略。简而言之，暂停面向消费者的前沿产品以改善安全和公平问题，同时专注于更有意义的专业化产品，如编码、生物医学等，这些产品能真正取得进展，这是一个选择。Anthropic并没有因为那个寓言般的政治问题而暂停开发。像大多数问题一样，我不认为这是AI或非AI的二选一。关键问题是：什么样的AI用于什么目的？为什么？
相似文章
Anthropic呼吁“暂停AI”——旨在扰乱中国市场
作者认为，Anthropic呼吁暂停AI开发只是一个幌子，最终目的是以安全为借口禁止中国的AI模型，因为像Deepseek、Minimax、Kimi和Qwen这样的中国模型正在以极低的成本迅速追赶上来。
前沿AI监管：管理新兴的公共安全风险
OpenAI提议了一个针对可能造成公共安全风险的「前沿AI」模型的监管框架，倡导制定标准流程、注册/报告要求和合规机制，包括部署前风险评估和部署后监测。
一项美国指令一夜之间在全球关闭了两款前沿AI模型。这到底是在为"主权AI"提供论据，还是仅仅说明不该只依赖单一模型供应商？
美国一项出口管制指令迫使Anthropic切断其Fable 5和Mythos 5模型的外国访问权限，引发了对主权AI以及训练前沿模型高昂成本的讨论。本文认为，真正的教训是多个供应商的弹性，而非建立国家级的ChatGPT。
人工智能的正确发展路径是什么？
麻省理工学院举办了一场探讨人工智能社会影响的研讨会，记者Karen Hao与学者Paola Ricaurte在会上呼吁，业界应逐步摆脱对超大规模AI开发的依赖，转而采用如AlphaFold等更小、更具任务针对性的模型。这类模型通过运用精心筛选的数据集解决具体问题，同时大幅降低环境成本。
AI暂停（74分钟阅读）
美国政府通过出口管制关闭了Anthropic的Claude Fable 5和Mythos 5模型，理由是其认为存在越狱行为，这一举措引发了关于在不妨碍防御能力的情况下阻止攻击性使用是否可行的争议。文章还涵盖了其他AI发展，包括MidJourney Medical的全身扫描以及Anthropic的政策提案。