标签
作者认为,仅仅证明 AI 系统中有个人类点击了“批准”,并不等于证明这次批准是正当的——真正的治理难题在于:凭什么说明这个人的决定在那个时刻具有权威性。文章提出,构建高风险自主系统的从业者应当如何思考资格、指派、授权、独立性以及时效性这五个要素。
Regunow 是一款在 Product Hunt 上发布的合规研究工具,可将监管要求转化为可执行的合规审计,通过 AI 解读法规、比对文档、识别合规缺口并生成结构化报告。
OpenAI 将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印以符合欧盟 AI 法案的透明度要求,同时发布名为 textGrain 的技术报告,但承认水印可被同义词替换等编辑削弱检测效果。
OpenAI 正在面向欧盟用户在 ChatGPT 和 Codex 中引入名为 textGrain 的不可见文本水印,以符合欧盟《人工智能法案》的要求;同时为全球 API 客户提供可选择加入的水印功能,并向经批准的研究人员开放检测器访问权限。
OpenAI 宣布其针对欧盟 AI 法案文本溯源要求的合规方案:在 API、ChatGPT 和 Codex 中分阶段推出名为 textGrain 的文本水印系统,同时对检测的局限性保持透明,并计划将该技术开源。
Garry Tan认为,初创公司构建的AI智能体框架具有真正的实用价值,因为它们能够将消耗token的智能体行为转化为确定性的、经过测试的、可重复的代码。他以英国经纪商IG使用Grep智能体来自动化合规警报审查为例。
提出Analytical Memory Unit (AMU)方案,通过为AI代理共享记忆附加完整的数据派生血缘图,并按列级权限门控检索,实现隐私保护的企业级记忆治理,消除18.8-25.5%的跨部门数据泄露,同时保持81.5-82.6%的记忆复用率。
Anthropic 的 Claude for Government 现已面向联邦和州级机构正式发布,通过已获 FedRAMP High 授权的环境提供编码和智能体能力,并支持按量计费、管理控制和审计日志功能。Claude Code CLI 和 Claude for Microsoft 365 也正在通过同一环境开放早期访问。
文章探讨了阿联酋在没有单一综合性 AI 法律的情况下如何处理 AI 监管,而是基于 2017 年至 2026 年间涵盖隐私、网络安全、金融以及 AI 专项规则的混合体系,同时提供了一个关于阿联酋 AI 治理的相关视频。
ChainSnip 是一个在 Product Hunt 上线的产品,可在月末自动抓取并存档带有钱包余额、带时间戳且可验证的区块链浏览器页面,为加密货币会计师和财务专业人士提供可审计的凭证。
欧洲银行、金融科技公司和保险公司正在部署 AI 智能体,可执行触发支付等任务。与此同时,欧盟《人工智能法案》的透明度规则(第 50 条)已经生效,但高风险系统的义务仍推迟至 2027 年,与 GDPR 第 22 条和 DORA 之间形成监管空白。作者就问责归属、数据驻留,以及欧洲重文档化的监管路径究竟是拖慢部署速度还是成为信任优势等问题提出思考。
该论文对12款主流的欧盟人工智能法案合规检查工具(AIACCs)进行了首次实证评估,发现这些工具质量参差不齐,只能作为早期参考;它们过度简化关键义务,且无法提供确定、可执行的指导,可能造成虚假的合规感。
本文重点介绍了团队在监控生产环境中AI智能体时面临的挑战,尤其涉及合规性和健康状况,并邀请探讨当前实践与不足之处。
金融AI代理正快速采用交易和信贷决策等自主任务,但用于问责与合规的审计追踪基础设施未能同步发展,给高风险交易带来重大风险。
Warp筹集了8500万美元来推出Warp 2.0,这是一个用于人力资源、薪资和合规的AI代理,它自动化常规任务,以解放人类员工从事更具战略性的工作。
本文介绍了Policy-as-Skill (PaS),一个模块化运行时,它将策略函数打包为可执行、版本化的功能,用于受治理的大语言模型决策支持,并使用Gemma4后端进行评估,展示了在治理和审计指标方面的改进。
一个专为CMMC合规设计的开源、自托管制造ERP/MES/QMS系统,可在受监管行业中实现完全数据所有权和本地部署。
本文讨论了当AI代理进行支付时,KYC合规性可能需要如何调整,并引发疑问:代理是否应拥有自己的身份档案,还是继续与已验证用户关联。
本文讨论了AI领域缺乏基于结果、面向用户的安全标签,类似于食品标签,并提出了此类认证的要求,包括使用场景特定性、人权作为不可协商的底线,以及独立审计。