low-overhead

标签

Cards List
#low-overhead

Python 3.15 的超低开销解释器性能分析模式 – Ken Jin 的博客

Hacker News Top ↗ · 2026-07-15 缓存

Ken Jin 的博客介绍了 Python 3.15 新增的超低开销解释器性能分析模式,该模式利用双调度表为 JIT 编译器实现高效轨迹记录,相比之前的方法减少了性能下降。

0 人收藏 0 人点赞
#low-overhead

Akashic:一种基于MemAttention的低开销LLM推理服务

arXiv cs.AI ↗ · 2026-07-08 缓存

Akashic提出了MemAttention,一种用于LLM推理的低开销内存系统,将上下文组织成有界块并建模语义关系,相比先前基线方法,准确率最高提升10.2个百分点,吞吐量最高提升1.21倍。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈