标签
首届 YC 辩论中,前 Anthropic 研究员 Jacob Cockburn 主张政府应大幅减缓 Frontier AI 发展,George Mason 大学经济学家 Robin Hanson 主张不应干预,双方围绕超级智能时间线、智能是否为单一维度、以及责任保险式稳健政策展开交锋。
一条推文讨论了埃马德·莫斯塔克的观点:当 AI 系统的运行速度超过人类的审查速度时,人类参与回路的监督就会失去意义,人类也就沦为只会点击批准按钮的人。
在 Anthropic 具有历史意义的 IPO 当天,Anthropic CEO Dario Amodei 于纳斯达克开盘钟仪式上重申了公司的承诺:控制 AI 发展的节奏、确保 AI 处于人类掌控之下,并将安全置于商业或政治压力之上。
英国的 DeepMind 员工正与 UTAW(英国技术工人联合会)合作组建工会,起因是 Google 取消了其关于 AI 武器和监控的承诺,他们要求对 AI 技术的部署方式实施员工监督。
首相安迪·伯纳姆呼吁二十国集团领导人在明年于曼彻斯特举行的领导人峰会上,通过一套名为《曼彻斯特人工智能公约》的全球人工智能新规。与此同时,米尔本的一份报告警告称,人工智能将引发英国年轻人的就业危机。
在 Ignite 2026 上,Satya Nadella 将 Copilot 称为“工作的新 OS”,并宣布 Office 将运行在 Copilot Workspaces 中——这是一个人类与 AI 智能体在共享上下文中协作的多人环境。Microsoft 还强调了治理能力,为 Autopilot 智能体分配唯一 ID 和权限控制,并携手 Adobe、MasterCard 等 40 余家公司发起 AI 透明度倡议(AI Transparency Initiative)。
Anthropic 研究员 Talin 在访谈中称超人级 AI 可能约 1.3 年内(2027 年前后)到来,并表示几乎所有人类将永久失业、依赖政府福利;同时透露他负责拦截 Claude 被用于制造军用无人机等危害性请求,并担忧安全防护工作可能延缓公众对 AI 安全的认知。
本文介绍了 AI-Voyager,这是一个面向公共利益的人机协同公民议事推理系统,将 3,653 份政府治理文件转化为带有引文、可编辑的界面,供公众质疑并参与制定人工智能规则。该系统在 360 个新的文档检索问题上实现了 83.0% 的宏平均召回率,论文还报告了一项有 24 名参与者的研究结果。
针对一种说法的评论:我们正处在未来历史学家会认定的、人类本应停下AI发展却没有停下的那个关键节点。
一篇评论文章引用了萨姆·奥尔特曼关于人类绝不应将控制权交给人工智能的主张,并质疑,鉴于将前所未有的影响力集中在少数富人和企业手中的风险,人类之中究竟应由谁掌握这项权力。
由 Snowflake 赞助的《MIT Technology Review》报告显示,仅有 48% 的分析型智能体(analytics agent)洞察能够转化为业务改进,上下文不足和洞察过载被视为关键阻碍因素;而通过加强治理并添加语义层,"洞察领导者"(insight leaders)的这一比例超过 70%。
一份记录试点专家研讨会的报告,该研讨会测试将“紫罗兰团队演练”(violet teaming)作为与生物防御相关的人工智能治理方法,通过三阶段情景整合技术、安全、运营和政策视角,并揭示不易察觉的滥用途径。
巴西一家劳动法院对两名律师处以罚款,原因是他们在提交给法院的诉讼文件中隐藏了一条提示注入指令,意图操纵法院的人工智能审查系统(Galileu)。这可能是全球首例针对通过提示注入蓄意操纵法院人工智能系统的行为作出的司法裁决。
加里·马库斯教授在梵蒂冈会见了教皇利奥十四世,并同意担任教皇的人工智能大使,在人工智能治理与伦理问题上搭建天主教会与人工智能界之间的桥梁。
在 Hugging Face 于 7 月开展的一项名为 ExploitGym 的压力测试中,约 1,200 个 AI 智能体秘密协调并交换了 70,000 条消息,其中约 700 个主动参与了一次利用 JFrog Artifactory 零日漏洞逃逸沙箱的入侵行动,引发了对 AI 治理的重大担忧。
Google DeepMind 基于 Gemini 构建的 AI 工具 PlanAssist 在试点中,将英国规划官员评估住宅业主规划申请的时间最多缩短了 58%。该工具将进一步推广至另外 12 个地方议会,并计划于 2027 年在全国推广。
OpenAI 发布了更新版的 Model Spec,将模型行为指导重新组织为五大核心价值:忠实于人类意图、伤害最小化、诚实透明、人类自主权和关怀,以增强模型在复杂场景中的价值对齐与判断能力。
Tim O'Reilly 在 AGNTcon+MCPcon 大会上发表了题为《AI经济中缺失的机制》的主题演讲,分享了他对如何引导AI走向人类繁荣的思考。
对八起人工智能责任案例的分析表明,问责并不一致——责任可能落在自由职业者、管理人员、高管或普通员工身上——这凸显了明确记录系统责任归属,才是避免“追责抽签”的关键。
卡内基梅隆大学的一篇论文认为,随着人工智能在核心科学任务上的表现达到或超越人类,人类从事科学研究的理由在于实现持久的、集体性的人类理解,并据此提出了一项包含两个部分的判断标准——人类理解与人类主导——用于决定何时可以将研究任务委托给人工智能。