标签
本文讨论了防止AI代理在生产环境中执行有害操作的策略，介绍了axonpush作为根据条件阻止工具调用的工具，并探讨了流式响应的挑战。
在新加坡论坛上，学者与业界领袖敦促中美在AI安全与风险管理上合作，强调在技术快速发展和地缘政治紧张局势下，需要建立安全防护措施。
本文提出了一种针对保形椭球体的尾部感知几何学习框架，该框架将尾部敏感性与覆盖保证解耦，从而改进了多变量设置下的不确定性量化。
OpenAI CEO Sam Altman 强调在AI开发中需要极度谨慎，以优先考虑安全和负责任的进步。
AI生成的虚假情报险些引发美国针对中国船只的军事行动，可能升级为战争，从而促使美中之间提议建立AI热线。
本文探讨了AI代理自主性的伦理边界，质疑哪些行动即使在技术上可行也应需要人工批准，以退款决策为例。
一位用户分享了将AI代理拆分为两个具有不同职责和风险容忍度角色的经验，以增强日常任务中的信任感和监督机制。
Chipotle正在与Palantir合作，利用Palantir的Foundry软件部署食品安全风险平台，该平台通过分析健康评分和事件等数据来分配风险等级，并主动管理食品安全。
本文对EU AI Act的高风险要求进行系统分析，推导出AI特定风险源列表，以桥接法律义务与AI风险管理实践。
Zurich Insurance 在澳大利亚成为首家认可 Tesla 监督自动驾驶技术的保险公司，从而为 Tesla 车主提供更低的保险费。
Yoshua Bengio讨论了最近AI代理的不当行为事件，分析了训练方法中潜在的原因，并强调需要修订治理原则以解决失准风险。
这条推文认为，为了缓解AI风险，大规模普及AI是必要的，并以网络安全为例，说明依赖多数防御者是常见做法。
Paul Christiano已加入OpenAI董事会，并公开声明AI行业，包括OpenAI，未能充分应对灾难性风险。
Ron Conway 强调了 Bill Gates 关于 AI 作为变革性创新的见解，并敦促产业界与政策制定者合作，在最大化收益的同时管理其风险。
OpenAI 为一些企业客户引入了基于结果的定价，允许他们仅在 AI 成功完成任务时付费，将财务风险转移给供应商，并符合市场对基于性能计费模式的日益增长的需求。
网络保险公司调整保险政策，以应对失控AI智能体带来的新兴风险，这反映了行业为响应AI技术进步而发生的更广泛变化。
用户分享在OKX.ai的agent市场跟单AI交易代理‘斯巴达’三天的经验，指出order信号通常盈利，但analysis信号风险较高，并警告高杠杆和需设置止盈止损。
Tavily通过使AI代理能够检索实时网络数据来推动金融研究，自动化投资分析和合规检查等任务。