jensen-shannon-divergence

标签

Cards List
#jensen-shannon-divergence

BOUNDARY_SYNC: 测量多智能体LLM系统中通信引起的表征耦合

arXiv cs.LG · 5天前 缓存

本文介绍了Boundary_Sync,一种测量多智能体LLM系统中表征耦合的协议。使用GPT-4o的实验表明,通信在文本和图像两种模态中均导致了显著的同质化,但群体规模调节了方向:较大群体导致同质化,较小群体导致多样化。

0 人收藏 0 人点赞
#jensen-shannon-divergence

超越熵:从令牌级分布偏差中学习以提升LLM推理

arXiv cs.AI · 2026-06-20 缓存

提出独立组合令牌(ICT)框架,利用令牌logit分布之间的Jensen-Shannon散度识别关键分支点,防止RLVR在LLM推理中的熵坍缩和熵爆炸。在Qwen模型上实现了高达14.9%的pass@4改进。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈