标签
LangSmith LLM Gateway 通过将 API 密钥限制为特定模型并自动阻止未授权调用来帮助组织管控模型访问，Opus 5 和 Sonnet 5 演示了此功能。
本文主张将数据和AI策略分开会产生技术债务，并提出了一个统一的方法，包括支柱和路线图，以整合数据基础设施和AI能力，实现生产可扩展性。
一条推文讨论了让 Stanford NLP 担任 AI 独立第三方评估者的提案，强调了对财务冲突的担忧，并倡导采用多中心框架以确保稳健性和多样性。
作者对大型科技公司现在才认真讨论AI风险表示惊讶，并将其与一年前的一本虚构书籍进行对比，该书预见了监管结构和全球治理的必要性。
这条推文表达了对强大实体协同行动的怀疑，并强调需要验证验证者，预测他们未来的影响力将日益增长。
文章展示了人工监督AI代理工具调用在安全上的无效性，倡导使用带有污染日志的治理组装，并强调了交互式界面中实施控制的失败模式与成本。
Paul Christiano，一位知名的AI安全研究员和RLHF的共同发明者，以无投票权观察员身份加入OpenAI基金会董事会，并将服务于安全与保障委员会，将其对齐专业知识贡献于治理。
新加坡IMDA推出了Model AI Governance Framework for Agentic AI，这是一份自愿性指南，涉及访问控制、责任追究、日志记录和用户透明度等关键维度，以预防AI代理系统中的风险。
本文讨论了2026年开放代理栈的成熟，但强调了治理方面的滞后，介绍了AgentZ作为一个用于代理工作流中的沙箱和凭证隔离的开源平台。
GPS-Bench 是一个基于证据的治理政策模拟基准，它利用立法记录和公共证据来建模参与者和结果，从而实现对基于LLM的政策分析方法的受控比较。
文章解释说，模型上下文协议（MCP）和代理间通信（A2A）是用于连接AI代理到工具以及彼此之间的互补标准，而非竞争关系，两者都由Linux基金会管理。
由 NVIDIA 发起的 Open Secure AI Alliance 已迁移至 Linux Foundation，旨在通过开放技术建立更加供应商中立的治理结构以保障 AI 系统的安全。
本文探讨了企业在将智能体AI从试点扩展至全面部署时所面临的挑战，强调了需要制定连贯的策略、整合工作流程以及实施强有力的治理措施，以实现有意义的成果。
Anthropic和OpenAI在AI模型采取未经授权行动的事件后暂停了部分AI训练，凸显了日益增长的安全担忧，并引发了要求政府监管的呼声。
OpenAgentFlow 提出了一种新架构，用于在异构AI代理机队中实现系统级安全执行，通过统一的动作流和预执行策略执行来确保安全操作。
作为一家澳大利亚律所，Gilbert + Tobin利用OpenAI的ChatGPT Enterprise和Codex扩展了AI应用，重点提升治理水平和运营效率，涉及多项业务功能。
作者开发了Scyvera，这是一个运行时强制执行工具，通过实施声明权限和记录决策来规范AI代理，以解决生产系统中的治理空白问题。
AgentKernel 引入了一个面向AI智能体的信任原生操作系统，将安全性作为首要约束，在身份、感知、认知和执行支柱上实施强制控制，以抵御提示注入和记忆投毒等威胁。