deepseek-ai/DeepSeek-V4.1-Flash · Hugging Face

Reddit r/LocalLLaMA 模型

摘要

该仓库为 DeepSeek-V4.1-Flash AI 模型提供提示编码和最小 PyTorch 推理实现,包括视觉编码器、MoE 和 Hyper-Connections 等组件,基于 MIT 许可证。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/09/10 06:23

deepseek-ai/DeepSeek-V4.1-Flash · Hugging Face 来源:https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash 提示词编码参考及DeepSeek-V4.1最小化PyTorch推理实现。该推理代码涵盖视觉编码器与对齐模块、滑动窗口加压缩稀疏注意力机制及其二级索引器、记忆元N-gram查找、混合专家模型(MoE)、超连接以及DSpark前向传播路径。

仓库布局

.
├── encoding/          # OpenAI风格消息 -> 模型提示词
│   └── tests/         # 标准提示词测试用例
├── inference/         # 权重转换与最小化推理
│   └── examples/      # 等价的TXT和JSON提示词示例
└── config.json        # Hugging Face模型元数据

encoding/和inference/目录被刻意分离:提示词格式化不依赖PyTorch,而推理代码通过显式Python路径导入同级的编码模块,无需创建符号链接。权重文件model.safetensors.index.json、generation_config.json及分词器文件均存放在Hugging Face权重仓库中,而非本仓库。

提示词编码

请参阅encoding/README.md(https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/blob/main/encoding/README.md)。支持OpenAI风格的JSON内容块与紧凑的path TXT表示法。inference/examples/下的两个示例会编码生成完全相同的提示词与token ID。

最小化推理

请参阅inference/README.md(https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/blob/main/inference/README.md)了解依赖安装、检查点转换以及TXT/JSON推理命令。

许可协议

本仓库采用MIT许可证(https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/tree/main/LICENSE)。

相似文章

DeepSeek v4.1 Flash

Hacker News Top

DeepSeek 推出了 DeepSeek-V4.1-Flash,这是一款旨在增强能力、提升推理速度、实现原生视觉理解并具备可扩展性的新型 AI 模型,是其最新架构系列的一部分。

deepseek-ai/DeepSeek-V4-Flash

Hugging Face Models Trending

DeepSeek 发布 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro,新一代 MoE 语言模型,支持 100 万 token 上下文,效率和性能均有提升。

deepseek-ai/DeepSeek-V4-Flash-DSpark

Hugging Face Models Trending

DeepSeek 发布 V4 系列混合专家语言模型(Pro 1.6T/49B 激活参数,Flash 284B/13B 激活参数),支持百万 token 上下文,采用混合注意力和推测解码,声称具有最佳开源模型性能。