使用吸收马尔可夫链 + EmbeddingGemma 2 作为决策引擎:约 2 毫秒推理,在拉斯维加斯二十一点中与 GTO(博弈论最优)策略达到 100% 一致性

Reddit r/LocalLLaMA 工具

摘要

作者将 Gevva0 升级为级联决策引擎(静态规则 → 吸收马尔可夫链 → 快速路径 logits → 有界思维链),并诚实地发布了对先前“100% GTO”说法的更正:修复提示泄漏漏洞后,零样本 GTO 一致率实为约 15%-29%,但延迟仍保持约 2 毫秒。

[更新 / 撤回声明:“100% GTO”的说法存在提示泄漏漏洞] 我们已修补代码仓库,确保传入严格中立的状态,以下是真实、诚实的数据:• 延迟:仍为约 2ms(ONNX + 吸收马尔可夫链)。• 真正的零样本 GTO 一致率:在全部 340 种标准手牌中约为 15% - 29%。模型严重倾向于默认选择停牌,未经微调无法在零样本条件下直觉判断精细的 MDP 边界。我们为这一错误说法致歉,并已将修复推送至 GitHub。我将 Gevva0 升级为级联决策引擎:第 -1 层 · 静态规则(<50 µs):支持热重载的正则表达式和关键词防护规则,在微秒级时间内运行,无需调用 GPU 第 0 层 · 吸收马尔可夫链(<3 ms):使用 EmbeddingGemma-2(740M)将查询嵌入 768 维流形,并以闭式解计算随机游走的吸收概率,提前退出的准确率达到 100%,且在 344 个域外条目上没有任何错误退出。第 1 层 · 快速路径 Logits(约 35 ms):在 Gemma 4 26B-A4B(MoE,激活参数量为 4B)上执行单次前向传播,配合自定义的 K=64 微型输出头,将包含 262,144 行的词表缩减为仅 52 个答案字母,使输出头计算量减少 99.98%,并在不生成任何 token 的情况下解决 77.9% 的查询。第 2 层 · 热 KV 缓存有界 CoT(≤ 256 个 token):将最难的 17.1% 请求升级为有界思维链推理,直接复用第 1 层已完成预填充的 KV 缓存(reuse_kv=True),消除重复的提示处理,并将长上下文延迟降低最多 30%。亮点:在 JevBench 上,Gevva0 的机会校正智能得分超过 Claude Opus 4.6 Thinking(84.62 对 83.90),中位延迟仅为 44 ms(Opus 为 4,850 ms)在 Decision Index 0.3 上,我们激活参数量为 4B 的 MoE 级联系统优于稠密 27B 模型(如 Kev 27B),p50 延迟为 60 ms——速度约为其他 27B 方案的 7 倍。可用于 60 FPS 实时游戏循环(附带吃豆人演示)https://github.com/solvingSteve/Gevva0
查看原文

相似文章

@yibie: https://x.com/yibie/status/2104076142500069608

X AI KOLs Timeline

本文展示了如何将GLM-5.3-Flash转换为Jev式的System One决策模型,通过单次前向传播实现类型化决策,基准测试显示其在准确性和速度上与专用模型相当。

autotrust/GEV-26B-Decide

Hugging Face Models Trending

autotrust 发布了 GEV-26B-Decide,这是一个基于 Gemma-4-26B-A4B-it 构建、具备自适应思考能力的 26B 参数(每 token 约 4B 激活)决策模型,在 Decision Index 上得分为 62.48。该模型还演示了面向计算机操作的亚 100 毫秒 System 1 决策(在无头 Chromium 中任务成功率达 95%),以及 MuJoCo 机械臂的抓取与放置任务。