标签
OpenAI 发布了更新版的 Model Spec，将模型行为指导重新组织为五大核心价值：忠实于人类意图、伤害最小化、诚实透明、人类自主权和关怀，以增强模型在复杂场景中的价值对齐与判断能力。
一篇发表于 Journal of the Brazilian Society of Mechanical Sciences and Engineering 的综述性论文，基于 COBEM 2025 圆桌讨论，系统探讨了 AI 在机械工程中的基础、机遇、挑战与责任，强调 AI 应与物理推理和工程严谨性结合而非取代工程判断。
NVIDIA CEO Jensen Huang 在 Bloomberg 采访中表示，他不会向被认为不负责任的 AI 实验室出售 GPU，这暗示了芯片供应商在 AI 安全监管方面角色的潜在转变。
回顾2019年《卫报》关于OpenAI因安全顾虑暂缓完整发布GPT-2的报道，作者以调侃语气指出AI发布争议由来已久。
Miles Brundage 指出，尽管许多 AI 公司的员工近期认真反思了自己的工作，但仍有不少人忙于发布他们自认为有趣且安全的产品。
一项为期多阶段的学术与eBay联合研究，对当前生成式AI在部署后所采用的用户反馈机制进行了基准评估，识别出可发现性低、术语不清晰等常见可用性问题，并在此基础上提出了最佳实践建议，同时设计了一款原型反馈收集工具——既注重用户友好性，又能为产品团队提供切实可操作的洞察。
Miles Brundage 批评了尽管已知 Iran、North Korea、China 等对手方持续滥用 Claude 进行勒索软件和威权宣传，却仍要快速部署 AI 的理由，认为这种风险权衡的推理令人厌倦。
Circuit Breaker Labs 是 TechCrunch Startup Battlefield 200 的决赛入围团队，利用高度逼真的模拟用户代理对 AI 模型进行红队测试，检测跨语言、跨文化、跨年龄组的心理有害交互，旨在让聊天机器人更加安全——此前 Character.AI 和 OpenAI 已因相关致死诉讼而被告上法庭。
本文提出了一种语音保留率／代表性比率指标，用于审计 LLM 对员工反馈进行摘要时存在的表征偏差，发现摘要流程是按出现频率而非情感倾向进行筛选的——表达较少的诉求有 86% 的概率被丢弃，而简短内容或仅含德语的内容则被系统性地遗漏。
Sundar Pichai 宣布，在与总统 Trump、JD Vance 及科技界领袖会面后，Google 签署了白宫《超级智能协议》（White House Accord on Super Intelligence）和《前沿责任联合承诺》（Joint Commitment on Frontier Responsibilities）。Google 强调其近期在 AI 领域投入了数千亿美元，并承诺通过测试、评估和红队测试等保障措施推进负责任的 AI 开发。
Lenfest Institute 扩展 AI Collaborative and Fellowship Program，获 OpenAI 500 万美元承诺，旨在将 AI 工程师嵌入新闻组织，促进创新和负责任 AI 在新闻业的应用。
OpenAI正在与一个由数学家组成的独立咨询小组合作，以指导对数学领域新兴AI结果的负责任审核和沟通，确保学术标准和公众透明度。
OpenAI成立了一个由数学家组成的独立咨询小组，以指导人工智能在数学领域进展的负责任共享，该小组将遵循一种新的模式，该模式已解决了100多个未解决的数学问题。
包括 Demis Hassabis 和 Jensen Huang 在内的 AI 领导与查尔斯国王会面，讨论负责任的 AI 安全问题，表达了乐观态度和对集体行动应对风险的需求。
OpenAI 已发布 Australian Youth Safety Blueprint，这是一份概述六大支柱的路线图，旨在通过AI交互保护年轻用户，重点关注数字素养、隐私保护和企业问责制。
本研究审计CLIP模型在大都会艺术博物馆艺术品元数据中的性别偏差，发现无统计学显著偏差，但强调在AI公平性评估中需进行多变量混淆控制。
加州旨在保持在负责任AI创新领域的领导地位，敦促AI公司降低风险并与州政府合作。SV Angel的Project Blueprint因其促进共享繁荣以及在行业领袖和立法者之间达成共识而受到赞扬。
Sam Altman 强调 AI 公司负责任行动的必要性，并欢迎建立前沿 AI 安全的联邦框架，倡导共享标准和合作。