float-precision

标签

Cards List
#float-precision

当给数字添加小数部分能修复你的着色器时

Lobsters Hottest · 23小时前 缓存

本文详细介绍了作者调试Voronoi图着色器的过程,解释了浮点数的小数部分如何导致动画卡顿,以及用于诊断和修复该问题的方法。

0 人收藏 0 人点赞
#float-precision

Float Bloat:向量序列化出错

Lobsters Hottest · 2026-08-27 缓存

Bonsai 发现了一个普遍问题,其中嵌入向量被不必要地从 float32 转换为 float64,导致 'Float Bloat',浪费了存储和带宽,估计全球影响超过 20 Petabytes 的开销。

0 人收藏 0 人点赞
#float-precision

@zcbenz: nvfp4与mxfp4不仅仅是块大小和缩放格式的不同选择,nvfp4还使用了额外的张量级缩放因子…

X AI KOLs Timeline · 2026-06-17 缓存

对nvfp4和mxfp4格式的技术比较,强调nvfp4使用额外的张量级缩放因子来克服fp4的范围限制,从而可以在块级缩放因子上获得更高的精度。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈