FRAPPE: 使用投影追踪编码器的完整输入残差输出自编码

Hugging Face Daily Papers 论文

摘要

FRAPPE是一种新颖的自编码框架,使用投影追踪编码器从完整输入预测残差,实现了高效的变速率图像压缩和快速的CPU编码。在高压缩比下,FRAPPE-Image在感知质量上优于AVIF,编码速度快47倍,使得仅使用CPU即可实现实时1080p 30fps编码。

媒体压缩标准在率失真复杂度权衡方面已到达瓶颈,限制了在机器人、可穿戴设备和遥感等应用中将昂贵的AI感知任务卸载到云端的能力。基于DNN的编解码器提高了压缩效率,但代价是:它们无法轻松适应可用比特率的大幅变化,并且实时编码需要昂贵、耗电的GPU,因此无法在低成本或资源受限平台上使用。为了解决这些限制,我们提出了一种新颖的自编码框架(FRAPPE),该框架使用完整输入通过投影追踪编码器预测残差输出。FRAPPE的编码目标自然地按重要性对潜在通道进行排序,从而实现零开销的变速率编码。与基于RNN的学习型编解码器(其编码器消耗上一次重建的残差)或RVQ式编解码器(其码本必须顺序应用)不同,FRAPPE的分析路径是一个由独立输入投影构成的极易并行的DAG。利用FRAPPE,我们构建了一个变速率RGB图像编解码器(FRAPPE-Image),并评估其与标准图像编解码器相比的率失真复杂度权衡。在高压缩比(约0.1 bpp)下,FRAPPE-Image的感知质量优于AVIF,编码速度快47倍,使其能够仅使用CPU实现实时1080p、30fps编码。我们的代码和预训练模型可在以下网址获取:https://github.com/UT-SysML/FRAPPE 。
查看原文
查看缓存全文

缓存时间: 2026/06/01 07:19

Paper page - FRAPPE:全输入残差输出自编码与投影追踪编码器

Source: https://huggingface.co/papers/2605.28992

摘要

一种名为 FRAPPE 的新型自编码框架,采用投影追踪编码器从全输入预测残差,实现了高效的变码率图像压缩,且支持基于 CPU 的快速编码。

在率失真-复杂度权衡(https://huggingface.co/papers?q=rate-distortion-complexity%20trade-off)方面,媒体压缩标准已达到瓶颈,限制了在机器人、可穿戴设备和遥感等应用中,将昂贵的 AI 感知任务卸载到云端的能力。基于深度神经网络的编解码器虽能提升压缩效率,但代价是难以灵活适应比特率的大幅变化,且实时编码需要昂贵、高功耗的 GPU,阻碍了其在低成本或资源受限平台上的使用。针对这些局限,我们提出了一种新型自编码框架(https://huggingface.co/papers?q=autoencoding%20framework)(FRAPPE),它利用全输入通过投影追踪编码器(https://huggingface.co/papers?q=Projection%20Pursuit%20Encoder)预测残差输出(https://huggingface.co/papers?q=Residual%20output)。FRAPPE 的编码目标会自然地对潜在通道(https://huggingface.co/papers?q=latent%20channels)按重要性排序,从而实现零开销的变码率编码(https://huggingface.co/papers?q=variable-rate%20coding)。与基于 RNN 的学习型编解码器(https://huggingface.co/papers?q=learned%20codecs)(其编码器消耗前一次重构的残差)或 RVQ 风格编解码器(其码本需要顺序应用)不同,FRAPPE 的分析路径是一个高度并行的有向无环图(https://huggingface.co/papers?q=DAG),由独立的输入投影(https://huggingface.co/papers?q=independent%20input%20projections)组成。利用 FRAPPE,我们构建了一个变码率 RGB 图像编解码器(https://huggingface.co/papers?q=RGB%20image%20codec)(FRAPPE-Image),并评估了其与标准图像编解码器在率失真-复杂度权衡(https://huggingface.co/papers?q=rate-distortion-complexity%20trade-off)方面的表现。在高压缩比(约 0.1 bpp)下,FRAPPE-Image 提供了比 AVIF 更高的感知质量(https://huggingface.co/papers?q=perceptual%20quality),且编码速度快 47 倍,能够实现实时 1080p、30fps 的纯 CPU 编码(https://huggingface.co/papers?q=CPU-only%20encoding)。我们的代码与预训练模型已开源:https://github.com/UT-SysML/FRAPPE。

查看 arXiv 页面(https://arxiv.org/abs/2605.28992)查看 PDF(https://arxiv.org/pdf/2605.28992)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.28992)

在您的代理中获取此论文:

hf papers read 2605.28992

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型0

暂无模型链接到此论文

请在模型 README.md 中引用 arxiv.org/abs/2605.28992 以在此页面链接。

引用本文的数据集0

暂无数据集链接到此论文

请在数据集 README.md 中引用 arxiv.org/abs/2605.28992 以在此页面链接。

引用本文的 Space0

暂无 Space 链接到此论文

请在 Space README.md 中引用 arxiv.org/abs/2605.28992 以在此页面链接。

包含此论文的收藏0

暂无收藏包含此论文

请将此论文添加到收藏(https://huggingface.co/new-collection)以在此页面链接。

相似文章

AFP-GIC:可控生成式图像压缩 [R]

Reddit r/MachineLearning

AFP-GIC 是一个可控生成式图像压缩框架,发表于 IEEE Access (2026)。它采用非对称的自适应融合先验转移(Adaptive Fused Prior Transfer)流水线,在极低比特率下减少幻觉和局部失真,相比 DC-VIC 解码延迟降低 18.1%、参数量减少 20.5%,并已开源代码、基准数据以及提供 Hugging Face 交互式演示。

面向可控生成式图像压缩的自适应融合先验迁移

Hugging Face Daily Papers

AFP-GIC 是一篇发表于 IEEE Access 2026 的论文,提出了一种面向可控生成式图像压缩的自适应融合先验迁移方法,仅用单个预训练模型即可在五个码率工作点上实现最高 167:1 的压缩比,并将解码延迟较 DC-VIC 降低 18.1%。

FFAvatar: 少样本、前馈、可泛化的头像重建

Hugging Face Daily Papers

FFAvatar提出了一种前馈框架,能在数秒内从少量非摆拍图像中重建高质量、可动画的3D高斯头部头像,在NeRSemble基准测试上相比现有最优方法实现了5.5 PSNR的提升。