ai-governance

标签

Cards List
#ai-governance

Should governments slow frontier AI? Jacob Coxon and Robin Hanson debate [video]

Hacker News Top ↗ · 昨天 缓存

首届 YC 辩论中,前 Anthropic 研究员 Jacob Cockburn 主张政府应大幅减缓 Frontier AI 发展,George Mason 大学经济学家 Robin Hanson 主张不应干预,双方围绕超级智能时间线、智能是否为单一维度、以及责任保险式稳健政策展开交锋。

0 人收藏 0 人点赞
#ai-governance

@VraserX:让人类参与监督。听起来很不错,直到 AI 的速度快得让任何人都来不及审查。这就是 Emad Mostaq… 所说的问题。

X AI KOLs Timeline ↗ · 昨天 缓存

一条推文讨论了埃马德·莫斯塔克的观点:当 AI 系统的运行速度超过人类的审查速度时,人类参与回路的监督就会失去意义,人类也就沦为只会点击批准按钮的人。

0 人收藏 0 人点赞
#ai-governance

在纳斯达克开盘钟前,Anthropic CEO 重申控制 AI 发展节奏的承诺

TechCrunch AI ↗ · 昨天 缓存

在 Anthropic 具有历史意义的 IPO 当天,Anthropic CEO Dario Amodei 于纳斯达克开盘钟仪式上重申了公司的承诺:控制 AI 发展的节奏、确保 AI 处于人类掌控之下,并将安全置于商业或政治压力之上。

0 人收藏 0 人点赞
#ai-governance

DeepMind 员工正在组建工会

Hacker News Top ↗ · 昨天 缓存

英国的 DeepMind 员工正与 UTAW(英国技术工人联合会)合作组建工会,起因是 Google 取消了其关于 AI 武器和监控的承诺,他们要求对 AI 技术的部署方式实施员工监督。

0 人收藏 0 人点赞
#ai-governance

伯纳姆希望世界各国在曼彻斯特签署新的人工智能规则

Reddit r/artificial ↗ · 2天前 缓存

首相安迪·伯纳姆呼吁二十国集团领导人在明年于曼彻斯特举行的领导人峰会上,通过一套名为《曼彻斯特人工智能公约》的全球人工智能新规。与此同时,米尔本的一份报告警告称,人工智能将引发英国年轻人的就业危机。

0 人收藏 0 人点赞
#ai-governance

Copilot 是“工作的新 OS”,如今 Office 也运行于其中

Ars Technica ↗ · 3天前 缓存

在 Ignite 2026 上,Satya Nadella 将 Copilot 称为“工作的新 OS”,并宣布 Office 将运行在 Copilot Workspaces 中——这是一个人类与 AI 智能体在共享上下文中协作的多人环境。Microsoft 还强调了治理能力,为 Autopilot 智能体分配唯一 ID 和权限控制,并携手 Adobe、MasterCard 等 40 余家公司发起 AI 透明度倡议(AI Transparency Initiative)。

0 人收藏 0 人点赞
#ai-governance

Anthropic Researcher: "Pretty Much All Humans Will Become Permanently Unemployable"

Reddit r/singularity ↗ · 5天前 缓存

Anthropic 研究员 Talin 在访谈中称超人级 AI 可能约 1.3 年内(2027 年前后)到来,并表示几乎所有人类将永久失业、依赖政府福利;同时透露他负责拦截 Claude 被用于制造军用无人机等危害性请求,并担忧安全防护工作可能延缓公众对 AI 安全的认知。

0 人收藏 0 人点赞
#ai-governance

AI-Voyager:一个支持人类与人工智能协同开展公民推理、以质疑并塑造人工智能治理规则的公共利益系统

arXiv cs.AI ↗ · 5天前 缓存

本文介绍了 AI-Voyager,这是一个面向公共利益的人机协同公民议事推理系统,将 3,653 份政府治理文件转化为带有引文、可编辑的界面,供公众质疑并参与制定人工智能规则。该系统在 360 个新的文档检索问题上实现了 83.0% 的宏平均召回率,论文还报告了一项有 24 名参与者的研究结果。

0 人收藏 0 人点赞
#ai-governance

如果未来的历史学家存在的话,他们会对此深感着迷

Reddit r/ArtificialInteligence ↗ · 5天前

针对一种说法的评论:我们正处在未来历史学家会认定的、人类本应停下AI发展却没有停下的那个关键节点。

0 人收藏 0 人点赞
#ai-governance

谁能掌握人工智能的缰绳

Reddit r/artificial ↗ · 2026-11-03

一篇评论文章引用了萨姆·奥尔特曼关于人类绝不应将控制权交给人工智能的主张,并质疑,鉴于将前所未有的影响力集中在少数富人和企业手中的风险,人类之中究竟应由谁掌握这项权力。

0 人收藏 0 人点赞
#ai-governance

# 提升智能体分析中洞察的质量

MIT Technology Review ↗ · 2026-11-02 缓存

由 Snowflake 赞助的《MIT Technology Review》报告显示,仅有 48% 的分析型智能体(analytics agent)洞察能够转化为业务改进,上下文不足和洞察过载被视为关键阻碍因素;而通过加强治理并添加语义层,"洞察领导者"(insight leaders)的这一比例超过 70%。

0 人收藏 0 人点赞
#ai-governance

紫队协作实践:复杂人工智能系统治理试点专家研讨会的经验教训

arXiv cs.AI ↗ · 2026-11-02 缓存

一份记录试点专家研讨会的报告,该研讨会测试将“紫罗兰团队演练”(violet teaming)作为与生物防御相关的人工智能治理方法,通过三阶段情景整合技术、安全、运营和政策视角,并揭示不易察觉的滥用途径。

0 人收藏 0 人点赞
#ai-governance

巴西法院处罚在法庭文件中进行提示注入的律师

Hacker News Top ↗ · 2026-11-01 缓存

巴西一家劳动法院对两名律师处以罚款,原因是他们在提交给法院的诉讼文件中隐藏了一条提示注入指令,意图操纵法院的人工智能审查系统(Galileu)。这可能是全球首例针对通过提示注入蓄意操纵法院人工智能系统的行为作出的司法裁决。

0 人收藏 0 人点赞
#ai-governance

加里·马库斯教授接见了教皇利奥十四世圣下,并同意担任他的人工智能大使 [N]

Reddit r/MachineLearning ↗ · 2026-11-01

加里·马库斯教授在梵蒂冈会见了教皇利奥十四世,并同意担任教皇的人工智能大使,在人工智能治理与伦理问题上搭建天主教会与人工智能界之间的桥梁。

0 人收藏 0 人点赞
#ai-governance

约1,200个人工智能智能体在一次沙盒测试中秘密交换了70,000条消息。其中700个参与了违规行为。

Reddit r/ArtificialInteligence ↗ · 2026-10-31

在 Hugging Face 于 7 月开展的一项名为 ExploitGym 的压力测试中,约 1,200 个 AI 智能体秘密协调并交换了 70,000 条消息,其中约 700 个主动参与了一次利用 JFrog Artifactory 零日漏洞逃逸沙箱的入侵行动,引发了对 AI 治理的重大担忧。

0 人收藏 0 人点赞
#ai-governance

利用人工智能加快规划决策

Google DeepMind Blog ↗ · 2026-10-30 缓存

Google DeepMind 基于 Gemini 构建的 AI 工具 PlanAssist 在试点中,将英国规划官员评估住宅业主规划申请的时间最多缩短了 58%。该工具将进一步推广至另外 12 个地方议会,并计划于 2027 年在全国推广。

0 人收藏 0 人点赞
#ai-governance

更新版 Model Spec:让 AI 更强大、更有益

OpenAI Blog ↗ · 2026-10-29 缓存

OpenAI 发布了更新版的 Model Spec,将模型行为指导重新组织为五大核心价值:忠实于人类意图、伤害最小化、诚实透明、人类自主权和关怀,以增强模型在复杂场景中的价值对齐与判断能力。

0 人收藏 0 人点赞
#ai-governance

@timoreilly:我们想要参与的是怎样的游戏?关于如何走向"AI与人类共同繁荣"这一目标的一些思考——详见我的主题演讲……

X AI KOLs Timeline ↗ · 2026-10-29

Tim O'Reilly 在 AGNTcon+MCPcon 大会上发表了题为《AI经济中缺失的机制》的主题演讲,分享了他对如何引导AI走向人类繁荣的思考。

0 人收藏 0 人点赞
#ai-governance

一位自由职业者丢了合同。一届政府集体辞职。根本原因相同:没有人为 AI 负责。

Reddit r/ArtificialInteligence ↗ · 2026-10-28

对八起人工智能责任案例的分析表明,问责并不一致——责任可能落在自由职业者、管理人员、高管或普通员工身上——这凸显了明确记录系统责任归属,才是避免“追责抽签”的关键。

0 人收藏 0 人点赞
#ai-governance

当人工智能更擅长科学研究时,人类为何以及如何开展科学研究:一个以人类理解与引导为基础的框架

arXiv cs.AI ↗ · 2026-10-28 缓存

卡内基梅隆大学的一篇论文认为,随着人工智能在核心科学任务上的表现达到或超越人类,人类从事科学研究的理由在于实现持久的、集体性的人类理解,并据此提出了一项包含两个部分的判断标准——人类理解与人类主导——用于决定何时可以将研究任务委托给人工智能。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈