标签
Cerebras发布了CS-4,这是一款新型AI计算机,其速度比前代快数倍,声称在速度上优于Nvidia系统,并将在第三季度更广泛地上市。
小米推出 MiMo-V2.5-Pro-UltraSpeed 模型内测,峰值速度达1000 tokens/s,旨在提升 Coding Agent 的生产力。试用资源有限,定向专业机构。
Simon Willison 探讨了 10 tokens per second 速度对于大型语言模型的实际意义,提供了关于这种速度感觉有多快以及其对可用性的影响的背景信息。