标签
本文重点介绍了Strata推理引擎,它在配备12GB显存和64GB内存的笔记本电脑上运行Qwen3.8模型时,性能显著超越llama.cpp,文本生成速度最高可达50 tokens/秒,提示处理速度可达1500 tokens/秒。
Muse是Meta推出的一款产品,在15天内美国下载量超过300万,超过了ChatGPT、Meta AI和Gemini早期的增长速度,突显了Meta在消费级产品分发方面的强大能力。
Opus 5.5 在 ArtificialAnalysis.ai 的所有三项性能指标中占主导地位,并提供了相较于 Fable 5.1 的高性价比替代选择。
本文介绍了‘HarnessTax’,并探讨了开发环境(即harness)对编码代理性能和有效性的影响有多大。
文章认为,安全和对齐是AI性能不可或缺的一部分,放慢速度不是问题所在——重要的是在定义进步时纳入诸如服从和诚实等因素。
这篇文章讨论了语音代理中内存检索的关键挑战,强调了测量每轮 P99 延迟、使用预取以及预算内存令牌以减少延迟并改善用户体验的必要性。
介绍 Human Bench 3.0,一个用于评估 AI 系统与人类表现对比的基准,Humanity-2 AI-0 可能表示特定的分数或版本。
一个使用 Qwen 3.8 27B 模型配合128k上下文创建完全可玩的 GTA 风格游戏的展示,包括性能基准和配置提示。
GLM 5.3 在 SlopCodeBench 上的基准测试结果显示,它在某子集上得分47.1%,在另一子集上与 Fable 5 和 GPT-5.6 Sol 并列,表明所有模型都在这个未饱和的编程基准上遇到困难。
Elon Musk 强调 Intelligence/Joule 的持续改进,Amjad Masad 报告称,在16个月内,每焦耳智能提升了18倍。
本文评估了抹除处理后的Qwen3.8-27B FP8 AI模型,结果显示其拒绝率从64-99%大幅下降到0-6%,而MMLU和GSM8K等性能指标变化微小,仅作为红队测试材料公开。
一篇博客文章,说明仅依赖平均值来评估性能提升可能会产生误导,通过使用合成延迟数据,展示了查看完整分布(通过百分位数、密度图和CDF)的重要性。
本文对PlanGPT(一种用于自动规划的大型语言模型)进行了补充评估,使用了规划成本和规划生成时间指标,并发现PlanGPT的表现并不优于贪婪搜索策略。
作者介绍了effectiveTPS的网站计划,这是一款使用新的'eTPS'指标(有效TPS)以及原始速度和延迟来比较本地AI模型的工具。其目标是提供一个简单的排行榜,突出展示有用的输出质量,而非原始营销数字。