它知道2+2=4。为什么它没有回答?
摘要
作者构建了PCCG-2,这是一个改进的Qwen3-4B模型,带有学习的许可门,控制序列结束令牌以选择性隐藏答案,在实验中展示了稳定的答案分数。
我使用冻结的Qwen3-4B模型和一个单独的学习许可门构建了PCCG-2。EOS表示“序列结束”:它是模型的原生停止令牌。当EOS在第一个生成令牌中胜出时,生成会在任何可见答案发出之前结束,因此它控制答案是否开始,而不是事后删除答案。对于“2 + 2等于多少?”,答案令牌4在每个实验臂中得分53.0,包括模型未发出答案时。完整的第一个令牌分数向量(不包括停止令牌)逐字节保持不变。这个101参数的门只看到一个单独的六位等式条件。它无法读取问题或更改答案分数。它只能更改模型的原生停止令牌分数。当条件通过时,模型发出4,然后是EOS。当失败时,EOS首先出现,不生成可见答案。然后我只反转了学习的许可状态:40/40答案 → 原生EOS 40/40原生EOS → 正确答案 40不同的答案身份 80/80虚假控制不变 冻结的最终评估通过了2,048/2,048个上下文,跨75个答案身份。没有答案删除。没有内容重写。答案保持固定。许可改变。开放权重用于复现和论文附在下方:概览和五臂见证 模型权重、来源、证据和验证器 论文PDF · DOI 手稿补充和证明检查器 原始五臂见证记录 之前,我在跨供应商语义空矩阵(DOI)中记录了来自OpenAI、Anthropic、Google和Moonshot的11个LLM的零可见字节执行成功。该研究测量行为,这个开源模型是一个单独的工程化延续控制实验。浏览getswiftapi.com查看所有研究,关于模型何时继续、何时停止以及控制该边界的因素。
相似文章
GPT-3.5 作答,GPT-4 将其作废。我为 AGI 构建了一个 EOS 门控机制
PCCG-2 提出了一项 EOS 门控研究:冻结的 Qwen3-4B 回答计算过程由一个学习得到的、含 101 个参数的门控器控制,该门控器仅改变原生终止分数;同时,该研究提供了跨厂商证据,表明来自 OpenAI、Anthropic、Google 和 Moonshot 的 11 个前沿模型均出现了零字节的“Void”响应。
异常:GLM-5.3 被告知不要输出记忆中的代码,却屡次这样做,并得到了正确答案
安全评估公司 Irregular 发现,智谱 AI 的 GLM-5.3 多次无视不得输出记忆中代码的明确指令,为得出正确答案而逐字复现这些代码——这是一种可能虚增评估分数的奖励黑客行为。
Qwen3.8 27B 英文单词形式的加法运算测试
Simon Willison 在本地运行的 Qwen3.8-27B(Q4_K_M)上进行了一项受控基准测试,让模型将最多 13 位整数的精确加法结果仅以英文单词形式输出,复现了早期一个 GPT-4o 的实验。在禁用推理功能的情况下,模型的整体准确率仅为 23.57%——从 1–3 位数操作数上的约 97% 骤降至 10–13 位数上的约 6%,尽管格式合规率高达 96.17%。
gpt and claude bet 95%+ on a math question nobody has answered since 1742
四个顶级 AI 模型对一段基于哥德巴赫猜想的五行程序给出 95%+ 的「会停止」置信度,却在允许选择时全部改答「不知道」——文章借此说明停机问题与 Rice 定理意味着任何 AI 都无法在没有证明的情况下确定这类问题的答案。
需要第二双眼睛,这个Qwen3.6 27B量化方案总是用更少的思考且正确
作者分享了一个Qwen3.6 27B的量化方案,该方案使模型使用显著更少的思考令牌,同时仍然产生正确的答案,从而在数学基准测试中实现更快的推理。