标签
本文讨论了人工智能竞赛不仅取决于模型智能，还取决于高效、可扩展的推理，强调了全栈基础设施的重要性，并预测了OpenAI的成功。
作者对 DSv4 Flash 0731 模型的优秀表现感到惊讶，指出它可以在不到 2000 美元的电脑上运行，并引用了 Artificial Analysis Intelligence Index。
一篇技术文章警告不要对 DeepSeek V4 Flash 的 KV 缓存进行量化，与 Qwen 397B 相比，其在困惑度、KL 散度和 token 概率方面表现出显著的质量下降。
作者批评HuggingFace上低质量微调模型的泛滥，认为这些模型被作者用来为AI求职增加资历。
一项分析质疑：考虑到在8xH200等昂贵硬件上运行大型模型的经济性，OpenRouter对GLM-5.2等开放模型的API定价是否意味着比假设的更激进的量化。
一篇批判性分析警告：许多Qwen/Claude蒸馏模型使用的训练样本太少（如4K），无法转移实际能力，与DeepSeek-R1等使用约70万样本的官方蒸馏相比，常常反而降低质量而非提升。
用户抱怨Anthropic的Claude Opus模型质量持续下降，从4.7到4.8版本表现越来越差，考虑取消订阅。
本文探讨了已部署AI系统中的运营漂移挑战，质疑部署后最先出问题的是模型质量、数据还是业务流程。