orthogonal-distillation

标签

Cards List
#orthogonal-distillation

会话自适应正交蒸馏(SAOD)技术将744B(1.5TB)压缩至100GB以下?

Reddit r/LocalLLaMA · 4天前

会话自适应正交蒸馏(SAOD)是一种将7440亿参数模型(1.5TB)压缩至100GB以下的技术,大幅降低存储和推理成本。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈