@victormustar: 我为 Qwen3.8-27B 部署了免费公共端点,无需令牌,兼容 OpenAI,轻速率限制。由 Hug… 提供支持。

X AI KOLs Following 工具

摘要

已为 Qwen3.8-27B AI 模型部署免费公共端点,提供兼容 OpenAI 的 API,支持视觉、工具调用和大型上下文窗口,由 Hugging Face Inference Endpoints 提供支持,至少在线 72 小时。

我为 Qwen3.8-27B 部署了免费公共端点 无需令牌,兼容 OpenAI,轻速率限制。由 Hugging Face Inference Endpoints 提供支持(将至少在线 72 小时)。 支持视觉输入,工具调用,262K 上下文窗口,思考功能可从 xhigh(默认)调整到关闭 在 H200 上使用 vLLM 进行 BF16 计算 · 实际成本:每小时 5 美元 · 已验证 50 并发请求 · 约每秒 60 个令牌 · 0.7 秒 TTFT 指南 + 代码
查看原文
查看缓存全文

缓存时间: 2026/08/17 12:23

我部署了Qwen3.8-27B的免费公共端点

无需令牌,兼容OpenAI格式,带轻度速率限制。由Hugging Face推理端点提供支持(至少在线72小时)。

支持视觉输入、工具调用、262K上下文长度,思维链强度可从最高(默认)调节至关闭

使用vLLM在单台H200上运行BF16精度 · 实际成本约5美元/小时 · 已验证50并发请求 · 约60 tokens/秒 · 首字响应时间0.7秒

指南 + 代码

相似文章

Qwen 3.8 27b 发布:本地AI的重大新闻

Reddit r/ArtificialInteligence

Qwen 3.8 27b,一个参数小于300亿的AI模型,已经发布,适合在消费级硬件如RTX 3090或M4 Pro上进行本地推理,有可能取代基于云的AI订阅,并将工作流程转移到本地。