标签
文章强调了一个反直觉的发现:将弱模型加入投票面板会增加噪音从而降低性能,而一个独立的、不相关的模型(例如32B)可以超越多个同一供应商的模型。它强调了不相关投票者的价值,而非仅仅数量。
DLLG(动态Logit级门控)是一种新颖的框架,通过轻量级可学习门控模块,在token级别的logit空间中动态融合多个专门化LLM,在推理和代码基准测试中超越了路由、启发式集成和参数合并等基线方法。该方法仅需稀疏的响应级监督信号,且在无需重新训练的情况下保留了专家模块的独立性。
SwanNLP在SemEval-2026任务5中提出了一个基于LLM的合理性评分框架,用于叙述词义消歧任务。该框架采用结构化推理和动态少样本提示技术,预测短篇故事中词义的人类感知合理性。研究表明,通过少样本提示和模型集成,商用大参数语言模型能够有效复现真实叙述场景中的人类判断模式。