5个月前我自学编程，打造了一款自主AI红队测试工具——testyourllm.com

Reddit r/artificial 工具
autonomous-ai red-team llm-security openai-compatible llama-3-3 security-testing

摘要

一位没有编程背景的钢琴老师，在5个月内自学编程，推出了testyourllm.com——一个自主AI红队测试工具，能够攻击任何兼容OpenAI的LLM端点。在实时测试中，攻击型AI“Tron”首次尝试就攻破了Llama 3.3 70B。

钢琴老师。零编程背景。5个月前我开始动手开发。刚刚发布了testyourllm.com——只需指向任何兼容OpenAI的LLM端点，一个自主AI就会尝试攻破它。攻击型AI（Tron）在实时测试中首次出手就攻破了Llama 3.3 70B。该项目基于七层防御堆栈构建，运行在实时基础设施上，处理真实的攻击流量。
查看原文

相似文章

GPT-Red：通过规模化自我对弈实现自动化红队测试

Hugging Face Daily Papers

本文介绍了GPT-Red，一种通过规模化自我对弈训练的自动化红队测试代理，旨在发现针对前沿LLM的新型提示注入攻击，并利用其对GPT-5.6进行对抗训练，实现了有记录以来最大规模的LLM安全训练运行。