compression

一篇技术文章介绍了 GPU 加速的权重传送（Weight Teleportation），这是一套 Blackwell 原生的 delta 权重同步流水线，可将采样器暂停时间降至 0.23 秒以下，端到端权重同步耗时降至 4 秒以内，适用于大规模强化学习（RL），在大多数工作负载上超越了集群内 P2P RDMA 方案。

GAAC 是一种无损 KV 缓存压缩与推理服务系统，通过分组自适应编码和融合注意力内核，利用 BF16 指数部分的冗余，在不对 KV 值进行近似处理的情况下，在 NVIDIA DGX Spark 和 Apple M4 上实现约 1.4 倍的 KV 压缩比和 1.04–1.27 倍的加速。

提出了 RAQ-MLA，一种针对多头潜在注意力（MLA）缓存的角色感知量化方法，无需训练即可将 MLA 缓存压缩至约 2.5 比特，在四个 MLA 模型上的推理与编码任务中几乎无损。

本文表明，一个已部署的自我改进科学智能体已经能够计算最小描述长度（MDL）压缩比，以无监督方式区分定律级与统计级科学知识，在高显著性水平下重新发现经典定律，同时揭示其自身认可的发现中有86%未能压缩任何信息——这是首次有实测记录表明，一个发现型智能体审查自身的发现记录，并发现自己夸大了成果。

提出消息传递量化（MPQ），将逐行训练后量化（PTQ）视为离散码本上的后验推断，通过在块间保留软后验信息来改进 GPTQ 等硬决策求解器，在 Llama、Qwen、Mistral 模型上降低了 2/3/4 位量化的困惑度，并提高了零样本精度。

lgit 是一款实验性版本控制工具，它将文件存储为神经网络权重，而非字节：提交时训练一个小型网络来记忆代码或图像，检出时则通过推理重建数据，有时会有损失。它完全在浏览器中运行，并提供交互式演示。

该论文系统比较了 2:4 半结构化稀疏化与量化在 LLM 推理中的取舍，发现在仍有更低精度可用时，加入 2:4 稀疏化既更慢又更不准确；只有在达到硬件量化下限（如 FP8/NVFP4）后，2:4 稀疏化才展现出 1.3–1.7× 的线性层加速价值，且需通过重训练恢复质量。

本文评估语言模型智能体的上下文压缩方法在'后续问题'上的表现，发现针对当前问题选择的句子在后续问题上并不优于随机删除，而 LLMingua-2 等词级压缩方法在多个基准上表现更佳。

论文提出 OptEP，一种面向混合专家（MoE）语言模型的后训练专家剪枝方法，通过连续松弛优化专家选择变量并结合重构驱动的权重更新，在 Qwen3、GLM-4.5-Air、Mixtral 等模型上显著优于现有剪枝基线，激进剪枝下精度提升最高达 16.20%。

北大温鹏飞团队提出 DDRA H.265（codec4AI），通过解耦帧间依赖与稀疏解码，为AI训练数据提供高效随机访问，相比 LeRobot v3 配置减少 58.7% 媒体负载并提升 1.45× 数据加载吞吐，且下游 VLA/WAM/VLM 训练质量相当。

提出 ALLOT：一种免训练的块稀疏注意力分配方法，通过细胞探测与轨迹校准在延迟预算内优化视频扩散 Transformer 各层-步的稀疏度，在 HunyuanVideo 上实现 11.8 dB PSNR 提升。

Ephemeral AI Lab 宣布 LayerFS 1.0.0 正式发布，这是一款为 AI 智能体设计的文件系统基座，其 Rust 编写的 DB Engine 将 2.50 TB 快照数据和 30 个分支压缩到仅 4.66 GB，主打短暂工作区与共享持久历史。

Qdrant 在 ViDoRe v3 基准测试中测试了 Perplexity 新推出的视觉文档嵌入，发现 1 位 TurboQuant 可将每页的向量大小从 856 KB 压缩至 40 KB，同时保留 96.5% 的检索准确率（重新评分后可达 99.9%），不过仍须存储原始向量以进行重新评分。

一篇综述论文，将长上下文压缩重新定义为大语言模型的内存管理问题，并将提示词压缩、KV 缓存管理、检索增强和智能体记忆统一纳入一个采用预算约束成本模型的信息生命周期框架。

本文提出 CoSTA，一个兼容性保留的后置框架，通过均值初始化的词表扩展、发音适配与对话适配，将生成词元空间与合成词元空间解耦，在保留原始语音 tokenizer 和解码器的同时实现约 1.7 倍的语音词元生成速度与更低延迟，且不损失响应质量。

本文利用算法信息论将组合结构形式化，将其定义为把各部分作为整体而非分别考察时涌现的共享结构，并反向运用这一框架来生成具有组合结构的字符串和图像。本文还讨论了这对神经网络深度以及面向开放式学习的组合式数据课程的启示。

RoLaQ提出了针对多头潜注意力（MLA）模型的2位KV缓存联合旋转与范围校准的离线量化方法，在DeepSeek-V2-Lite上实现3.96倍BF16 KV容量和2.51倍解码吞吐提升。

Jake Archibald 发布了 JPEG XL 与 AVIF 在网页场景下的详细对比测试，结论指出在有损照片、截图、插画和带透明度的图像上，AVIF 通常能产生更小的文件、编解码速度也更快；不同 JPEG XL 编码器（libjxl 与 jixel）之间差异显著。

SAGE 提出一种面向 2 比特权重向量量化的方法，通过能量分层分组（ESG）与自适应比特分配（ABS），在 Qwen3-30B-A3B 上保留 BF16 平均性能的 95.3%，并借助自定义 CUDA 内核实现最高 2.55 倍的端到端加速。

ZXC 0.15.0 正式发布，这是一款面向“一次压缩、多次解压”场景的无损压缩库 libzxc，采用 C 编写，解压速度可达每秒数 GB，其各级别的解码速度均为 LZ4 的 1.5–2.8 倍，且输出体积相等或更小。