@tianyi: DeepSeek 开源了一些新的代码仓库，使得部署 V4.1 Flash 以及后续的开源模型更加容易…

DeepSeek 已经开源了一些新的代码仓库，使得部署 V4.1 Flash 以及后续的开源模型变得更加容易：https://github.com/deepseek-ai/deepseek-recipe… https://github.com/deepseek-ai/DeepSelect… https://github.com/deepseek-ai/DeepJIT… — # deepseek-ai/deepseek-recipe 来源: https://github.com/deepseek-ai/deepseek-recipe # deepseek-recipe 英文版 | 中文版 deepseek-recipe 是一组 Rust 库和 Python 绑定，能将不同格式的 API 请求统一转换为对话格式，将其编码为 DeepSeek 模型的提示，并将模型输出转换为相应格式的响应。使用这些组件可以将推理后端连接到支持多种格式的 API 服务。模型推理、工具执行和 HTTP 传输必须由外部提供。快速开始 · 流式响应 · 与分词器配合使用 · 许可证 ## 支持范围 - 请求/响应格式： 支持将消息、Chat Completions 和 Responses 请求进行转换，流式响应，以及完整响应。支持文本、图像、思考链和客户端工具调用。 - 提示： 将 DeepSeek V4 和 V4.1 对话编码为提示或 Token ID。 - 生成设置： 思考模式、推理力度、temperature、top_p 和输出 Token 限制。 - 输出解析： 思考链、工具调用、JSON 对象输出和停止序列。 - 图像： 以 Base64 或外部 URL 形式提供。图像组件使用 OpenCV 提供 DeepSeek V4.1 预处理功能。 - 工具定义： 函数工具；Responses API 还支持工具命名空间和 apply_patch 自定义工具。 ## 尚未支持 - Token 概率 (logprobs 和 top_logprobs)。 - 文档内容、音频/视频输入以及通过 file_id 检索文件。 - 服务器工具执行，例如 web_search。 - JSON Schema 和正则表达式输出约束，或强制执行工具 strict 设置。 - 单个 Chat Completions 请求的多个补全 (n > 1)。 - Responses 中除 apply_patch 之外的其他自定义工具定义。 - 通过 previous_response_id 进行的 Responses 对话存储和上下文检索。 - Responses 加密思考内容 (encrypted_content)。 ## 使用 deepseek-recipe 将 Chat Completions 请求转换为 DeepSeek V4.1 提示： ### Python #### 安装 Python 3.10+： sh python3 -m pip install deepseek-recipe #### 示例 python from deepseek_recipe import ChatCompletionRequest, ConversionOptions, DeepseekV41Encoding request = ChatCompletionRequest({ "model": "deepseek-flash", "messages": [{"role": "user", "content": "Hello"}], }) converted = request.convert(ConversionOptions()) rendered = DeepseekV41Encoding().render_conversation(converted.conversation) print(rendered.prompt) ### Rust #### 安装 sh cargo add [email protected] [email protected] 源码构建和图像依赖项，请参阅开发指南。 #### 示例 rust use deepseek_recipe::openai::ChatCompletionRequest; use deepseek_recipe::request::{ConversionOptions, ProtocolRequest}; use deepseek_recipe_encoding::PromptEncoding; use deepseek_recipe_encoding::v4::dsv41::DeepseekV41Encoding; use serde_json::json; fn main() -> Result<(), Box> { let request: ChatCompletionRequest = serde_json::from_value(json!({ "model": "deepseek-flash", "messages": [{"role": "user", "content": "Hello"}], }))?; let converted = request.convert(ConversionOptions::default())?; let rendered = DeepseekV41Encoding::new().render_conversation(&converted.conversation); println!("{}", rendered.prompt); Ok(()) } ### 编码与解码演示 从仓库根目录运行编码和解码演示： sh cargo run -p encoding-decoding-demo --locked 打开 http://127.0.0.1:7778。 ### 更多示例 Rust 和 Python 都支持将模型输出转换为流式响应。详见流式响应。要将对话编码为 Token ID 或解码后端 Token ID，请参阅与分词器配合使用。 ## 包和示例项目 | 包 | 用途 | | — | — | | deepseek-recipe (https://docs.rs/deepseek-recipe) | 协议转换和模型输出解析。 | | deepseek-recipe-core (https://docs.rs/deepseek-recipe-core) | 共享的对话、消息、图像和工具类型。 | | deepseek-recipe-encoding (https://docs.rs/deepseek-recipe-encoding) | DeepSeek V4 和 V4.1 提示渲染与 Token 编码。 | | deepseek-recipe-image (https://docs.rs/deepseek-recipe-image) | 图像获取与预处理。 | | deepseek-recipe-python | Python 绑定，以 deepseek_recipe 形式导入。 | | encoding-decoding-demo | 用于编码提示、检查特殊 Token 并将完整模型输出解码为 Chat Completions、Responses 或 Messages 的 Web 界面。 | | server-rs | 使用 Axum API 的模拟推理示例。 | | server-py | 使用 FastAPI 的模拟推理示例。 | ## 许可证 项目代码和公共文档采用 MIT 许可证 授权。捆绑的分词器说明位于 static/tokenizers/README.md。