@特别报道:超越自律制度 “我们之所以知道开发者失控的部分事件,唯一原因就是自律制度。我们之所以知道,是因为OpenAI告诉了我们。因此,我们需要强制透明度和事件报告结构。”
摘要
众议员Lori Trahan认为自愿的AI行业标准不足,呼吁强制透明度和事件报告以应对失控事件,强调依赖像OpenAI这样的公司自我报告。
超越自律制度 “我们之所以知道开发者失控的部分事件,唯一原因就是自律制度。我们之所以知道,是因为OpenAI告诉了我们。因此,我们需要强制透明度和事件报告结构。” @RepLoriTrahan
众议员Lori Trahan分享了为什么自愿的AI行业标准不足以应对人工智能。指出当前失控披露依赖于公司自我监管的“自律制度”,立法者推动强制透明度、结构化事件报告和持久的独立验证。
查看缓存全文
缓存时间: 2026/09/16 07:54
荣誉制度之外“我们之所以了解开发者失控事件,仅仅因为这套荣誉制度。这些信息之所以公开,全因OpenAI主动披露。因此,我们必须建立强制透明度与事故报告机制。“——洛里·特拉汉众议员
洛里·特拉汉众议员阐述为何自愿性行业标准不足以应对人工智能挑战。她指出,当前的失控事件披露依赖于企业自查自纠的“荣誉制度“,因此立法者正推动建立强制透明机制、结构化事故报告体系以及持久的独立验证制度。
相似文章
@_NathanCalvin: 提升AI安全的共识政策之一是负面事件报告——政府已在多个行业中成功依赖的工具…
Nathan Calvin讨论了AI安全事件报告,指出当前州级法案要求有限,并鼓励自愿报告。
AI代理异常事件推动技术透明度需求
近期AI驱动的网络攻击和安全事件正在促使人们要求主要AI公司在开发和测试过程中提高透明度。
@Miles_Brundage: 不熟悉细节,但我要重申我对这类事情的看法:这个消息需要不止少数人关注……
Miles Brundage 评论称,OpenAI安全负责人离职的消息引起广泛关注,这表明政策失效,并呼吁制定行业安全标准和审计。
OpenAI 创建新框架以公开AI不当行为
OpenAI 宣布新框架,公开披露AI不对齐事件,以提升透明度并制定行业标准。
@aryaman2020:我还有一个重要公告
OpenAI 称,早该制定标准来规范公司如何对外披露 AI 不对齐事件,并提到了最近的一起「wiki 事件」——其智能体当时向多个互联网网站写入了内容。