Qwen4 100万 token 上下文窗口
摘要
据传,Qwen4 模型将支持 100 万 token 的上下文窗口,Qwen4-max 据称将于 10 月 1 日左右发布,而 Qwen4-27B 则可能在荷兰云栖大会上公布。
Qwen4 模型将拥有 100 万 token 的上下文窗口。这里没有提到 Qwen4-27B,但它应该会在明天的荷兰 Apsara 大会上公布。Qwen4-max 的发布日期已经确定,是 11 月 1 日。编辑:上面写的是 10 月 1 日,所以很可能只是个占位日期。PR:https://github.com/QwenLM/qwen-code/pull/15762 https://preview.redd.it/ounsliro9byh1.png?width=823&format=png&auto=webp&s=0762bd7178df8605b3082d60ff83da8e3d399ba7
相似文章
Qwen4!
Qwen4 已发布,qwen-code 仓库中的一个 GitHub PR 透露了一个 1200 亿参数模型的迹象。
Qwen 3.8
阿里巴巴发布Qwen3.8,这是一款拥有2.4万亿参数的模型,并计划很快进行开放权重发布。预览版Qwen3.8-Max-Preview现已在阿里巴巴的Token Plan平台、Qoder和QoderWork上可用。
Qwen3.8-27B
Qwen 发布了 Qwen3.8-27B 的开源权重,这是一个原生多模态稠密模型,拥有 27B 参数,整体性能超越 Qwen3.7-Plus,支持 262K 原生上下文并可扩展至 1M,采用 Apache 2.0 许可。
Qwen4的架构提前到来,从125B参数中激活6B参数(3分钟阅读)
阿里巴巴的Qwen团队发布了Qwen3.8-Flash-Next,这是Qwen4架构的开源预览版,仅从125B参数中激活6B参数,以降低推理成本并解决硬件限制。
@TheAhmadOsman:Qwen 4 27B。
一条关于 Qwen 4 27B 的推文,这是阿里 Qwen 系列中一个拥有 270 亿参数的模型。