标签
微软发布 Microsoft-Decision-1,一个专为快速决策打分设计的模型,可用于路由、分类、优先级排序与工作流控制,基于 Qwen3.5-9B 后训练,在 36 项基准测试中取得最高准确率,延迟比 GPT-6 Sol 快约 35 倍。
本文详细介绍了将 Kev-0.8B 模型(Qwen3.5 变体)移植到 Core ML 的过程,通过基准测试展示了在 Apple Silicon 设备上推理速度和内存效率的显著提升。
作者微调了一个名为SpeakoFlow Mini的0.8B参数模型,用于听写清理。在固定提示条件下,它在专业基准测试中与GPT-5.6 Luna表现匹配。
一位用户讨论了 Ling 3 tiny 模型的基准测试,将其与 Qwen3.5 9b 进行比较,并质疑是否其他开源模型被忽视了。
量化方法 Voodoo Quant 在 Qwen3.5 0.8B 和 2B 模型上性能超越 Unsloth Dynamic 2.0 KLD 95%
作者分享了在ASUS Zenbook Pro 14上本地运行Qwen3.6 35B-A3B的体验,在32k上下文下实现了27 TPS的生成速度,标志着向完全本地化AI以保护隐私的个人里程碑。
Opus 4.7 自动生成定制 WebGPU 内核,通过融合 LinearAttention 将 Qwen3.5 推理加速最高 13 倍,现已随 Transformers.js v4.2.0 发布。