@omarsar0：AI 安全领域需要的是更好的工具和工程实践。例如，构建更强大的红队测试工具。很高兴看到……

X AI KOLs Following 2026/10/14 17:45 工具

ai-safety red-teaming open-source image-models jailbreak qwen

摘要

White Circle 开源了 RISE——一种红队测试算法，能够突破 OpenAI、DeepMind 等公司最新图像模型的安全防护。该算法使用 Qwen 和 Gemini Flash 等现成模型作为裁判，无需额外训练，让防御者可以测试自己的图像模型。

AI 安全领域需要的是更好的工具和工程实践。例如，构建更强大的红队测试工具。很高兴看到这项针对图像模型的红队测试开源工作。它似乎能够学会更好的攻击提示词编写方式。该项目已开源，基于开源的 Qwen 模型运行，并以 Gemini Flash 作为裁判，因此防御者可以在自己的图像模型上运行相同的测试。

查看原文

查看缓存全文

缓存时间: 2026/10/15 10:12

AI 安全领域需要的是更好的工具和工程实践。

比如，构建更强大的红队测试工具。

很高兴看到这个开源项目对图像模型进行红队测试。它似乎学会了更好地编写攻击提示词的方法。

它是开源的，基于开放的 Qwen 模型运行，并使用 Gemini Flash 作为评判器，因此防御者可以在自己的图像模型上运行相同的测试。

White Circle@whitecircle·16h： 我们正在开源 RISE——我们的红队测试算法，它可以突破 OpenAI、DeepMind 等公司最新图像模型的安全防护。

RISE 底层使用 Qwen 和 Gemini Flash 等现成的模型，无需额外训练。

了解更多：

相似文章