frozen-llm

#frozen-llm

# Batched Speech Decisions Without Decoding: Single-Token Supervision Lets a Frozen LLM Hear Beyond the Transcript 无需解码的批量语音决策：单 Token 监督让冻结的 LLM 听懂转录文本之外的信息 - Batched Speech Decisions — 批量语音判断（一次处理多条语音任务） - Without Decoding — 无需解码（不生成完整的逐词文本输出） - Single-Token Supervision — 单 Token 监督（用单个输出 Token 直接监督模型判断） - Frozen LLM — 冻结的大语言模型（模型权重保持不变、不做微调） - Hear Beyond the Transcript — 听懂转录文本之外的信息（让模型感知语音中的情感、语气、说话人属性等未被转录出的内容）

arXiv cs.AI ↗ · 2026-10-05 缓存

该论文提出了 DuplexJev 方法：将 ASR 编码器的隐状态通过一个小型连接器输入到冻结的 LLM 中，以单一 token 分布的形式回答关于语音的封闭式问题，全程无需解码。该方法能在约 0.1 秒内对八段语音批量作出判定，并将说话人性别与情感识别的准确率提升至 90%。

0 人收藏 0 人点赞

#frozen-llm

无需解码的批量语音决策：单词元监督让冻结的大语言模型听懂转录文本之外的信息

Hugging Face Daily Papers ↗ · 2026-10-02 缓存

DuplexJev 通过小型连接器将 ASR 编码器隐藏状态输入冻结 LLM，将每个多工决策表示为单一 token 分布而无需自回归解码，使 8 GPU 节点在约 0.1 秒内处理 80 个语音决策，同时在口语问答、说话人性别与情感识别上取得高精度。

0 人收藏 0 人点赞

#frozen-llm

内在路由：从冻结LLM中引出原生技能路由

Hugging Face Daily Papers ↗ · 2026-09-14 缓存

本文介绍了Gavel，这是一种通过线性投影从冻结LLM中引出原生技能路由的方法，实现了高效的工具选择而不会造成上下文过载，并在基准测试中超越了现有流程。

0 人收藏 0 人点赞

#frozen-llm

LODESTAR: Trustworthy Entropy Is Navigated, Not Merely Measured -- Reinforced Polarizer Keeps a Frozen LLM from Being Confidently Misled by the Wrong Evidence

arXiv cs.CL ↗ · 2026-08-13 缓存

This paper introduces Lodestar, a method that uses reinforcement learning to train a short polarizer prompt string that helps a frozen LLM avoid being misled by misleading retrieved passages in RAG question answering. It improves F1 and exact match scores across five QA benchmarks compared to existing entropy-based selection rules.

0 人收藏 0 人点赞

#frozen-llm