preparedness

标签

Cards List
#preparedness

OpenAI 正在招聘一名年薪 445,000 美元的研究员。要求?要有‘品味和战略眼光’。

Reddit r/artificial · 2026-05-23 缓存

随着编码工具的快速进步以及行业领袖对奇点逼近的警告,OpenAI 正在招聘一名安全研究员,年薪高达 445,000 美元,以应对 AI 实现递归自我改进的风险。

0 人收藏 0 人点赞
#preparedness

随着AI能力提升,强化网络防御能力

OpenAI Blog · 2025-12-10 缓存

OpenAI 发布了一套管理AI模型网络能力的综合框架,指出在 CTF 性能上取得了显著进步(从 GPT-5 的 27% 提升到 GPT-5.1-Codex-Max 的 76%),并概述了纵深防御措施,以确保先进模型主要造福防御方,同时限制恶意使用。

0 人收藏 0 人点赞
#preparedness

我们更新的安全防护框架

OpenAI Blog · 2025-04-15 缓存

OpenAI 发布了更新的安全防护框架,更加聚焦于高风险 AI 能力,引入了更清晰的风险优先级标准,以及针对自主复制和隐瞒等新兴威胁的研究类别,同时保留了针对生物、化学和网络安全能力等已有的追踪类别。

0 人收藏 0 人点赞
#preparedness

前沿风险与应对准备

OpenAI Blog · 2023-10-26 缓存

OpenAI 宣布了其应对准备挑战赛的获奖者,该赛事识别了与前沿 AI 系统相关的独特风险。前十名提交作品突出了包括金融系统操纵、信息泄露、医疗伤害、网络攻击和基于说服的威胁等问题,其中 70% 的参赛作品强调了 AI 增强恶意说服能力的潜力。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈