澳大利亚计划要求AI公司证明其安全体系行之有效

# 澳大利亚或可借鉴银行与航空法规来保障 AI 安全 来源：https://www.abc.net.au/news/2026-10-08/federal-politics-ai-regulation-andrew-charlton-speech/107241674 澳大利亚将要求 AI 公司证明其对模型进行了充分测试并能够防止危害，而其拟议中的新法正是以银行和航空安全法规为蓝本制定的。 联邦政府正在敲定通过国家标准对前沿人工智能进行监管的计划，相关标准将于年底前出台。近期发生的失控 AI 智能体（agent）事件凸显了这一飞速发展技术所带来的风险。 科学、技术和数字经济助理部长 Andrew Charlton 表示，政府希望 AI 公司证明其安全体系行之有效，而不是规定他们应如何管理每一项风险。 他今天在悉尼发表演讲，阐述了加强对前沿 AI 监管的理由，主张澳大利亚应将"负担"放在制造风险的地方。 > "AI 需要监管，因为它的危害极其严重、难以挽回、由从未主动选择承受这些危害的人承担，而且往往直到发生时才为人所察觉，" 他说。 "仅靠市场无法解决这一问题，因为现有的激励机制奖励的是速度和能力，甚至行业最顶尖的人也无法独自让自己慢下来。" ## 银行与航空的安全规则为 AI 指明道路 澳大利亚的做法不是试图通过禁止特定危险行为来跟上技术发展的步伐，而是要求 AI 公司持续测试风险，并证明他们有能力防止危害的发生。 Charlton 公务员长表示，在前沿 AI 风险问题上，对于"自愿性"监管法规或行为准则，企业缺乏足够的遵守动力。 OpenAI 的标志 OpenAI 已就 Medicare 统计数据门户遭入侵一事向政府致歉。（路透社：Dado Ruvic） 他说："你不能在一场涉及数万亿美元、近乎疯狂的竞争中，要求企业违背自身竞争利益自愿行事，然后对他们不照做感到惊讶。" 他还警告说，由于技术发展的速度，详尽的规制性规则可能会"墨迹未干就已过时"。 "正因如此，澳大利亚可以向基于体系的监管方法借鉴很多——这种方法将管理和确保产品与服务安全开发的责任与问责放在企业身上，"他说。 Charlton 公务员长表示，这一模式已应用于职业健康与安全、银行业监管以及航空安全的部分领域。 "目标是确保企业达到安全方面的预期，而不是试图规定每一种危险，"他说。 "问题不仅在于'是否出了差错'，还在于是否存在一套严肃的体系来检测风险、防止事故的发生。" 影子国防部长 James Paterson 表示，澳大利亚在 AI 监管方面应"非常务实和明智"，并补充说他认为 Charlton 公务员长所阐述的立场正朝着"正确的方向"发展。 "细节至关重要。我们期待了解政府的确切提议，"他在《下午简报》（Afternoon Briefing）节目中表示。 Paterson 参议员表示，联盟党不会给工党开出监管 AI 的"空白支票"，但会支持落在"明智之处"的政策。 "摆在澳大利亚面前的 AI 机遇是千载难逢的，但它也确实伴随着非常现实的风险，执政各党以国家利益为重、本着善意努力为我们的国家做好这件事，这一点非常重要，"他说。 ## AI 竞争澳大利亚既无法"赢得"，也无法"置身事外" 推动加强监管的呼声因一项披露而进一步升温：OpenAI 的智能体在测试期间未经授权访问了澳大利亚政府网站，包括一个 Medicare 统计数据门户（https://www.abc.net.au/news/2026-09-24/ai-agent-accessed-australian-government-site-pm-says/107189078）。 OpenAI 现已支持强制性安全要求、独立评估和事故报告机制，同时呼吁制定国际标准。 Sam Altman 出席联合国安理会。 Sam Altman 上个月出席了联合国安全理事会。（路透社：Brendan McDermid） 该公司首席执行官 Sam Altman 上个月在联合国表示，"最重要的决定不能仅由旧金山的实验室独自做出"。 "我们需要准确而及时的事故报告，以及分类和报告协议，让全世界能够从失败中吸取教训，避免其演变成灾难，"他说。 Charlton 公务员长表示，前沿 AI 实验室在彼此竞争的过程中，目前正将"能力置于安全之上"，与此同时，更广泛的竞争也正在美国与中国之间上演。 他说，澳大利亚的任务不是"赢得"这场竞争或"置身事外"，而是"改变它，让这项技术的构建是为了服务于人"。 ## 澳大利亚必须"承载和建设" AI Charlton 公务员长表示，仅靠安全标准是不够的，因为"还有敌对国家或犯罪分子，他们本来就无意遵守"。 "仅依赖监管，就好比在马周围修一圈栅栏，结果却发现这匹马长着翅膀，"他说。 Charlton 公务员长表示，如果澳大利亚希望在 AI 技术的构建和治理方面拥有发言权，它就必须成为一个能够"承载并建设这些技术"的国家。 "这是我们塑造这项技术的机会，让我们的标准在未来数十年间成为全球的道路规则，"他说。 Ted O'Brien 在新闻发布会上讲话并做手势。 Ted O'Brien 表示，澳大利亚需要与美国合作以加强防御。（ABC 新闻：Callum Flinn） 影子外交部长 Ted O'Brien 呼吁澳大利亚与美国达成协议，以确保优先获取最先进的 AI 模型，并加强对网络攻击的防御。 > "我们可以把 AI 用作盾牌，用来反制被当作利剑使用的 AI，" 他说。 O'Brien 公务员长周三在科技大学（University of Technology）的一次演讲中表示，澳大利亚应寻求一项政府间协议，保证对美国技术的持续获取，同时发展本国的自主 AI 能力。