标签
华盛顿特区的一起联邦诉讼挑战美国政府将托管AI模型访问作为出口管制进行监管的权力，辩称在不转移权重的情况下提供输出并不构成出口。此案测试了此类管制的法律依据。
本文研究了以人为中心的人工智能（HCAI）的采纳如何影响企业特有风险，发现HCAI与较低的风险相关，而数字化和高管持股增强了这一效应。
一次泄露曝光了彼得·蒂尔秘密社团Dialog的成员名单，显示来自AI开发和监管领域的200多位富豪及有影响力人士已秘密会面20年，引发对AI治理受不当影响的担忧。
OpenAI参与创立了由Linux基金会托管的Appia Foundation，旨在开发用于评估先进AI系统的开放、模块化标准，从而在整个AI价值链中创建一种关于信任与安全的共享技术语言。
深度分析在日本大阪/关西做FDE（前置部署工程师）的策略，涵盖政策监管、市场机会和行业场景，强调将业务需求转化为可审计、可运营的AI系统。
本文探讨了由意识形态驱动的AI创始人带来的系统性风险，以Anthropic为例，并与历史上的科技领袖进行对比。
亚马逊副总裁Eric Brandwine批评了人在回路中的AI治理，认为人类不一致且容易产生偏差常规化，这使得他们在代理系统的重复审批决策中不可靠。
Dario Amodei，Anthropic的首席执行官，表示他不认为他的AI模型被用于战争罪行就是越过了红线，而是将责任归咎于战争和人类判断。
特朗普政府以国家安全出口管制为由，命令Anthropic阻止外国公民（包括美国境内的用户及其自身员工）访问其AI模型Fable 5和Mythos 5。专家表示，这一前所未有的行动暴露了AI治理的不确定性，因为传统出口规则并未明确适用于远程AI服务。
在G7峰会上，Anthropic首席执行官Dario Amodei和Google DeepMind的Demis Hassabis在与G7领导人和科技高管的闭门会议中，呼吁成立一个由美国主导的国际联盟，以制定AI规则和标准。
Dario Amodei 早前呼吁设置 AI 紧急关闭开关，结果适得其反——美国政府迫使 Anthropic 针对外国公民关闭其模型。文章详细介绍了 G7 峰会，Altman、Amodei 和 Hassabis 在会上推动安全部署 AI，而法国则强调了建设自主 AI 基础设施的必要性。
欧盟领导人将与包括Dario Amodei、Sam Altman、Demis Hassabis和Arthur Mensch在内的顶级AI CEO在G7午餐会上会面，讨论AI使用权限和安全问题。此前，美国禁止欧盟公民使用Anthropic的最新模型，会议旨在促进合作而非对抗。
文章强调了AI代理从起草转向自主行动时的关键风险转变，并警告了“漂移”现象——即人类审批沦为橡皮图章，从而引发非预期的自动化。
本文提出了用于治理委托AI系统的最小充分监督原则（MSO），推导了自主分配和信任校准的数学解，并引入了如水填充分配和掩蔽病理等概念。
特朗普政府迫使Anthropic关闭其强大AI模型的访问权限，促使欧洲领导人主张为了国家安全和主权发展非美国AI能力。
讨论了为什么95%的企业AI项目因治理、ROI和部署问题而失败，并推广了一位资深从业者编写的免费书籍，涵盖框架和模式。
文章认为，对公开披露的AI模型Mythos的禁令是作秀行为，并产生了鼓励保密的不良激励，暗示监管机构应更关注提高私人AI开发的透明度，而非针对公开分享的模型。
由于美国政府对外国访问的限制，Fable 5和Mythos 5的关闭标志着一个转变，即前沿AI被视为受控制的战略基础设施，这引发了对不透明控制的担忧，并加速了对主权和开放替代方案的兴趣。