llm-probing

标签

Cards List
#llm-probing

犹豫有其几何形态:面向稀疏激活引导的熵训练双曲探针

arXiv cs.LG ↗ · 2026-10-05 缓存

论文提出HEST方法,通过熵训练探针将大语言模型的隐藏状态嵌入到庞加莱球中,仅沿双曲测地线引导高熵(即犹豫)的token,从而在Qwen2.5-Math和Llama-3.1模型上提升数学推理准确率,而固定向量的欧式引导方式在这些模型上效果不佳。

0 人收藏 0 人点赞
#llm-probing

真实性信号在语码混合中是否持续有效?探究Hinglish幻觉检测的隐藏状态

arXiv cs.CL ↗ · 2026-09-22 缓存

本研究探究了基于单语数据训练的幻觉检测探针在Hinglish上的迁移效果,结果显示检测性能稳健,且Hindi和Hinglish中的幻觉率高于英语。

0 人收藏 0 人点赞
#llm-probing

超越交互界面的安全性:基于大型语言模型潜在状态的有害内容检测

arXiv cs.AI ↗ · 2026-09-18 缓存

本文提出通过轻量级MLP探测器分析LLaMA-3.1-8B的激活状态,以高F1分数检测有害提示,为大型外部护栏模型提供了一种经济高效的替代方案。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈