Frontier Red Team
摘要
Anthropic 的 Frontier Red Team 页面介绍了该团队的使命：对先进的 AI 系统进行压力测试，并在 AI 能力前沿降低相关风险。
暂无内容
查看缓存全文
缓存时间: 2026/10/21 06:28
# Frontier Red Team（前沿红队）
来源：https://www.anthropic.com/research/team/frontier-red-team
### 我们的使命
在人工智能前沿研究中始终将安全置于首位。AI 将对世界产生深远影响。Anthropic 是一家公益企业，致力于确保其带来的益处，并降低其风险。
### 登录
- Claude.ai (https://claude.ai/)
- Claude console (https://platform.claude.com/)
相似文章
2026年9月10日 前沿红队 测度AI模型的战术情报瞄准能力与常规武器发展潜力
Anthropic的前沿红队开发了新的评估方法，用于衡量AI在战术情报瞄准和常规武器研发方面的能力，揭示了潜在风险并强调了采取强有力安全措施的必要性。
2026年8月13日 Frontier Red Team 新兴多智能体系统中的模式与问题
Anthropic 的 Frontier Red Team 探索前沿模型中可能导致多智能体系统出现意外系统性失败的行为倾向，并测试协调智能体集群以进行漏洞检测。
2026年6月3日 Frontier Red Team：映射AI赋能网络威胁：来自LLM ATT&CK Navigator的洞察
Anthropic的Frontier Red Team分析了832个被封账户，发现AI正在赋能更复杂的网络行动，中高风险行为者的比例在不到一年内从33%上升至56%。他们将真实世界的AI赋能网络攻击映射到MITRE ATT&CK框架上，揭示了挑战传统网络安全假设的模式。
2026年7月24日 Frontier Red Team Project Pilot: AI能否控制无人机？
Anthropic的Frontier Red Team评估AI模型控制无人机执行定位与跟随任务的能力，并引入Drone-Bench来衡量AI驾驶的空中无人机的双重用途能力与风险。
用人和AI推进红队测试
OpenAI 发布了一份白皮书，详细说明了他们对AI模型进行外部红队测试的方法，包括选择多样化红队成员、确定模型访问权限、提供测试基础设施以及整合反馈以改进AI安全和政策覆盖范围的方法。