Dongxi 东锡 NLP· @dongxi_nlp · X·· 2 小时前AI 评分59
AI 导读
White Circle 团队开源红队算法 RISE，可对 OpenAI、DeepMind 等最新图像模型进行 jailbreak。文中称 GPT-Image-2.5-Flare 被成功攻击的概率约为上一代的 3 倍，Nano Banana 2.1 约为上一代的 2 倍。
正文
模型越来越强，但是安全性跟上了吗？
尤其是 Visual Models，一旦安全防护被绕过，NSFW 内容就可能直接生成，风险更加直观。
White Circle 团队的最新研究 RISE：在相同攻击流程下，OpenAI 的 GPT-Image-2.5-Flare 被成功 jailbreak 的概率约为上一代的 3 倍，Google 的 Nano Banana 2.1 则约为上一代的 2 倍。
RISE 利用 Evolutionary Search 持续优化 jailbreak 策略。当某条 prompt 被拦截，系统可以根据反馈调整策略，自动生成新的攻击 prompts，持续探索模型的安全边界。
更值得关注的是，这套攻击与评估流程仅依靠开源工具和公开 API 就能实现。外部研究者无需访问模型内部，也能系统性地发现安全漏洞。
推荐！
We are open-sourcing RISE, our red-teaming algorithm that breaks the safeguards of the latest image models from OpenAI, DeepMind, and others. RISE uses readily available models like Qwen and Gemini Flash under the hood, with no additional training required. Read more: https://whitecircle.com/research/breaking-frontier-image-models在 X 查看被引用的帖子
来源：Dongxi 东锡 NLP · x.com