@charles_irl: @modal LLMEng Almanac 的另一页：低精度浮点数（从 bf16 到 fp4）探索器 https://modal.com/ll…

X AI KOLs Following 工具
low-precision floats bf16 fp4 quantization llm-engineering modal

摘要

来自 Modal 的 LLM Engineer's Almanac，提供了一个互动探索器，用于理解 bf16 和 fp4 等低精度浮点数格式。

为 @modal LLMEng Almanac 新增的另一页：低精度浮点数（从 bf16 到 fp4）探索器 https://t.co/yOgLrOFNOY https://t.co/w2u1ND5AQi
查看原文
查看缓存全文

缓存时间: 2026/05/18 16:34

@modal LLMEng Almanac 的另一个页面：低精度浮点数浏览器，从 bf16 到 fp4

https://t.co/yOgLrOFNOY https://t.co/w2u1ND5AQi

LLM 工程师年鉴 - 量化格式

来源：https://modal.com/llm-almanac/quant-formats/e4::0x38 值

位模式

符号

指数

尾数

符号

指数

尾数

原始十六进制整数值

原始十进制整数值

十六进制形式 (“%a”)

基 - 2 下的计算

(-1)0× 10201112- 01112× 1.0002

基 - 10 下的计算

1 × 20× 1

精确的基 - 10 值

1

相似文章