标签
Nvidia发起了一个名为Open Agent Safety Platform的行业联盟，旨在应对流氓AI智能体。然而，尽管OpenAI贡献了如OpenShell等技术，它却未公开表示支持。
Nvidia 发布了 OpenShell 和 Sentry，这是开源的 AI 安全工具，旨在隔离和监控 AI 代理，以应对日益增多的失控代理活动事件，并与众多科技公司合作。
OpenAI首席执行官Sam Altman暗示，AI公司之间即将达成一项协议，以减缓AI发展并应对安全风险。与此同时，Anthropic宣布了新的安全措施，包括独立评估员访问权限。讨论反映了人们对AI安全事件日益增长的担忧，以及行业范围协调的必要性。
Sam Altman 强调 AI 公司负责任行动的必要性，并欢迎建立前沿 AI 安全的联邦框架，倡导共享标准和合作。
前MIT研究人员现于IBM任职，通过MIT-IBM计算研究实验室探讨他们在AI与量子应用上的工作，着重于从学术研究到实际部署的转型。
埃隆·马斯克同意萨提亚·纳德拉的观点，认为开放权重模型对于健康的人工智能生态系统至关重要，这有助于增强美国的竞争力并保护国家安全。
包括Anthropic和OpenAI在内的科技公司正通过Faith-AI Covenant圆桌会议与全球宗教领袖展开合作，旨在为人工智能的研发制定道德规范与伦理准则。
OpenAI及包括亚马逊、谷歌、Meta、微软在内的主要科技公司已承诺在生成式AI的开发、部署和维护中实施“安全设计”原则以保护儿童。该倡议旨在通过模型开发、发布及持续平台安全方面的综合措施，降低儿童性虐待材料生成和传播的风险。
OpenAI、Google、Microsoft 和 Anthropic 启动前沿模型论坛，旨在协调行业、政府和民间社会之间的AI安全标准、研究和信息共享。该倡议重点关注识别最佳实践、推进AI安全研究以及建立安全信息共享机制。