@anton_lozhkov:很令人沮丧的是,@RiversHaveWings @StefanABaumann @Birchlabs等人的HDiT架构(以及一般的NATTEN)并没有……
摘要
一条推文串,倡导更广泛采用HDiT架构和NATTEN,强调其在超分辨率、图像恢复和基因组标注方面的显著速度提升。
很令人沮丧的是,@RiversHaveWings @StefanABaumann @Birchlabs等人的HDiT架构(以及一般的NATTEN)并没有得到更广泛的采用
+ 多年来,它一直是我超分辨率和图像恢复实验的主要工具。
+ 在HF的基因组标注项目中,它使吞吐量提升了11倍。
+ 它很可能对我正在尝试的基于GroundingDINO风格的精细分割管道起到很好的作用。
说真的,各位,别再在UNet变压器中使用卷积层来牺牲模型容量和收敛速度了,向HDiT学习吧!
查看缓存全文
缓存时间: 2026/07/16 08:15
真的很令人沮丧的是,@RiversHaveWings @StefanABaumann @Birchlabs 等人的 HDiT 架构(以及整体的 NATTEN)没有得到更广泛的采用。
- 多年来,它一直是我超分辨率和图像复原实验的主力。
- 在 Hugging Face 的基因组标注项目中,它将吞吐量提升了 11 倍。
- 它很可能在我正在尝试的类似 GroundingDINO 风格的精细分割流水线中表现良好。
说真的,各位,别再在 UNet 变换器中使用卷积层来损害你的模型容量和收敛速度了,向 HDiT 学习吧!
项目页:https://crowsonkb.github.io/hourglass-diffusion-transformers/…
相似文章
@ariG23498: 我一直很钦佩 @stevhliu 的工作。我认为他的技术文章是最好的之一。在最新的……
一个系列帖文介绍了 Hugging Face 的 transformers 库如何高效加载模型,涵盖 meta device、safetensors、CUDA 缓存等内容。
@MaximeRivest:还有很多事情要做!我们知道深度学习有效,我们只需要更分享和有组织一些!我 sp…
作者讨论了在深度学习中需要更好的分享和组织,以使其更易于生物学家使用,从而自动化图像分析和测量等任务。
@ClementDelangue:HF 上的基础设施规模惊人。如果你还在用 S3 或 R2 托管模型、数据集、智能体内存等,请联系我们……
Clement Delangue 宣传 Hugging Face 的基础设施可用于托管模型、数据集和智能体内存,声称其比 S3 或 R2 更好、更快、更便宜、更安全。
@victormustar: 玩MinMax-H3玩得太开心了。真不敢相信我们现在能100%本地实现这样的视频质量
一位用户表达了对MinMax-H3的兴奋,强调现在可以100%本地实现这种视频质量。
@ClementDelangue: 生物学的未来不应被黑盒API所束缚,尤其是当涉及个人健康时。无论你是……
Hugging Face 发布 Carbon,一个开源DNA基础模型,比同类模型快275倍,可在单个GPU上本地处理整个基因组。