@HuggingPapers: Stable-GFlowNet：通过对比轨迹平衡实现多样化且鲁棒的 LLM 红队测试 Naver AI 消除了不稳定的…

X AI KOLs Following 论文
llm-red-teaming generative-flow-networks naver-ai research stability

摘要

Naver AI 推出了 Stable-GFlowNet，这是一种通过对比轨迹平衡来消除生成流网络中不稳定的配分函数估计，从而改善 LLM 红队测试的方法。

Stable-GFlowNet：通过对比轨迹平衡实现多样化且鲁棒的 LLM 红队测试 Naver AI 通过成对比较和鲁棒性掩码消除了生成流网络中不稳定的配分函数估计，在保持多样性的同时防止了模式崩溃 https://t.co/xRXREBVzmu
查看原文
查看缓存全文

缓存时间: 2026/05/09 20:16

Stable-GFlowNet：通过对比轨迹平衡实现多样化且鲁棒的 LLM 红队测试

Naver AI 通过成对比较和鲁棒掩码，消除了生成流网络（Generative Flow Networks）中不稳定的分区函数估计，从而在防止模式崩溃的同时保持多样性 https://t.co/xRXREBVzmu

相似文章

使用GFlowNets为LLM生成攻击

arXiv cs.AI

本文提出使用GFlowNets训练一个攻击者LLM，自动生成针对受害者LLM的对抗性攻击，从而在英语和土耳其语中实现自动化红队测试和鲁棒性评分。

LeapAlign：通过构建两步轨迹在任意生成步骤后训练流匹配模型

Hugging Face Daily Papers

LeapAlign是一种后训练方法，通过两步轨迹捷径降低计算成本，同时实现梯度稳定传播到早期生成步骤，从而改善流匹配模型与人类偏好的对齐。在微调Flux模型时，该方法在多种图像质量和文本对齐指标上均优于现有最先进方法。