标签
美国证券交易委员会(SEC)发布了2027财年检查优先事项,将先进AI(包括“超级智能”)以及代币化证券列为重点监管对象,涵盖市场基础设施、网络安全和投资者保护等风险领域。
2025 年一项法院命令要求 OpenAI 保留本应被删除的聊天和 API 日志,这凸显出使用公共 LLM 的智能体开发者失去了对数据删除的控制,引发了关于私有模型部署和数据保留策略的讨论。
一位开发者讨论了在企业环境中审查和管理 MCP 服务器(GitHub、Jira、内部文档)的难题,询问有哪些安全标准被遗漏,以及如何在监管和快速审批之间取得平衡。
币安已在10月30日截止日期前向巴西监管机构提交授权申请,并对巴西用户限制八项服务、下架22种代币,以遵守巴西央行的新规定。
印度证书颁发机构 eMudhra 因签发了 8 个私钥熵极低(最低仅 3 位)的中间 TLS 证书,被迫宣布退出全球 SSL/TLS 证书业务,业界担忧这些可被毫秒级破解的密钥可能被滥用于伪造受信任证书。
AT&T 正与 OpenAI 合作,为其内部法务部门构建由人工智能驱动的知识层和自然语言请求受理系统,进一步推进现有的 LegalEdge 计划。这些工具将帮助对法律请求进行分类并确定优先级,而最终决策仍由人类律师作出。
作者指出,随着 AI 普及,几乎所有数字服务都可能需要更新其服务条款(如 Google Workspace 所做的),并预测 AI 代理终将纳入更广泛的监管体系,例如需明确界定代理代表用户访问服务时的含义。
调查显示,WhatsApp 在其帮助页面中隐藏了面向 AI 的隐形指令,要求 AI 助手在用户提及律师后,不得推荐数据保护监管机构,也不得引用 GDPR——这与其自身公布的隐私政策相矛盾。
Show HN:Dovepass——一个研究原型 Web 工具,可检查在旧金山的特定无人机飞行路径是否合法,并为无人机飞行应用生成文件。
JPMorgan限制外部AI代理访问账户但禁止其转账,同时监管机构要求银行回答关于代理权限、审批、可追溯性与可关闭性的四个问题,预示这些问责要求将扩展到所有运行AI代理的团队。
一位从业者称,两个 AI 语音智能体在演示中表现合格,却在真实的金融服务通话中出了问题——一个编造了一项费用,另一个在被打断时跳过了必须告知的事项。经受住考验的智能体采用了锁定且必须执行的工作流程步骤;这篇帖子询问其他人如何在上线前测试此类合规问题。
Launch HN:Consus(YC F24)推出面向处理敏感数据企业的大语言模型(LLM)网关,将 AI 请求路由至符合 ITAR 与 CUI 要求、并通过 FedRAMP High 等效审计的合规基础设施,通过单一的 OpenAI 兼容端点与合规后缀(如 gpt-5.6-sol:fedramp-high),统一管理跨 GovCloud 的模型访问、策略与开销。
Mozilla 推出 Firefox Enterprise,主打隐私、自主与可控的企业浏览器方案,支持本地部署、集中策略管理、原生 DLP、AI 工具管控、SIEM 集成与 Lockdown Mode,并预告 Thunderbird Enterprise 与专业支持服务。
Box 首席执行官 Aaron Levie 分享了他对随着 AI 智能体开始接管企业任务执行,业界日益需要长期安全与治理方法的看法。他认为,前沿模型应当被视同"内部威胁",采用"零信任"架构来管理,辅以分层控制和可审计性。
文章探讨新加坡如何不依靠单一综合性AI法律,而是通过既有法律、行业特定规则和治理框架来监管AI,并介绍了其针对AI代理的新指南,引发关于统一立法与灵活框架孰优的讨论。
作者论述 AI 智能体问责正从'以后再说'变成'现在就得解决'的问题:承保方在定价智能体风险、审计方要求证据、客户想知道谁签批,且这一问题横跨编码、客服、运维、浏览器等各类智能体。文章提出多项主张——执行前必须指定责任主体、区分构建者/部署者/审批者角色与责任、审批须绑定具体动作参数、需要防篡改且可外部锚定的证据记录,并向业界征集生产环境实践经验。
作者提出 AI 代理操作溯源存在缺口:网关工具只能记录流经自身的请求,直接调用 Stripe SDK、Zapier 等下游系统的行为无法追溯,导致无法证明代理在授权范围内行事,这在 Air Canada 判例及保险条款收紧后愈发重要。作者正在构建一个直接从下游系统拉取审计日志进行核对的工具,并向社区提问求证。
本文将Auditable Agents框架的策略可检查性维度扩展到关于AI智能体的声明上,定义了何时一条声明是可审计的,并证明独立的记录覆盖、逐操作的授权绑定以及完整性是验证的必要条件,同时为运营方和标准制定者提供了实用的指导。
一位开发者发布了一款免费的代理协议检查工具,可为安全团队生成 IGA 式审查报告包,用于审计代理协议访问权限,支持解码 MCP、A2A 和 ARD 协议,并正在征求社区反馈。
该论文提出"思考惯性"(Thinking Inertia)现象:即使明确指示LLM不要思考,模型仍会持续进行显式推理,且在开放式问题中更严重。作者提出三个衡量"不思考"行为的指标,并在六个模型和多种任务上评估,指出停止推理无法仅靠设置或指令保证。