low-latency-inference

标签

Cards List
#low-latency-inference

使用吸收马尔可夫链 + EmbeddingGemma 2 作为决策引擎:约 2 毫秒推理,在拉斯维加斯二十一点中与 GTO(博弈论最优)策略达到 100% 一致性

Reddit r/LocalLLaMA ↗ · 2026-10-14

作者将 Gevva0 升级为级联决策引擎(静态规则 → 吸收马尔可夫链 → 快速路径 logits → 有界思维链),并诚实地发布了对先前“100% GTO”说法的更正:修复提示泄漏漏洞后,零样本 GTO 一致率实为约 15%-29%,但延迟仍保持约 2 毫秒。

0 人收藏 0 人点赞
#low-latency-inference

SpikingVLA:异步脉冲视觉-语言-动作模型

arXiv cs.CL ↗ · 2026-10-08 缓存

SpikingVLA 提出了一种 ANN 到 SNN 的转换框架,采用树突脉冲发放(Dendritic Integrate-and-Fire)神经元和异步执行机制,实现低功耗、低延迟的脉冲 VLA 推理,相比现有脉冲 VLA 方法,导航成功率显著提升,首次动作延迟降低至原来的 1/11.2。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈