标签
本文分析了平坦最小值附近固定步长SGD的缩放极限，表明对于平坦度指数m≥2的目标函数，不变分布集中在尺度α^(1/m)上，且当m>2时收敛到非高斯平稳分布。
Chamath 透露其公司发现 AI token 成本每 45 天翻倍，但下游生产力提升最多 5%，认为 AI 发展正接近瓶颈，建议公司重新审视策略甚至考虑退出。
一篇比较主流AI模型幻觉率的博客文章显示，较小的开源模型（如 GLM-5.2）比大型专有模型（如 GPT-5.5）显著更少产生幻觉，这表明扩大模型规模带来的收益正在递减。
一份Citadel Securities的报告指出，前沿人工智能因算力和推理成本正面临真正的经济限制，导致向成本纪律和模型替代的转变。该报告验证了近期高额令牌费用体验，并预测了AI使用将出现分化。
一场关于AGI是否不可避免或遭遇瓶颈的辩论，权衡AI自我改进和推理能力与缺乏理解、电力限制以及不断移动的目标等问题。
本文表明，像Forward-Forward (FF)这样的层局部训练方法无法扩展到真实的图像尺寸和数据集，且合成基准测试夸大了其性能。作者引入了一个强大的FF变体（DTG-FF），并证明在真实数据（例如224x224的ImageNet-100）上，FF仅达到49.4%，而典型BP超过75%，而在合成任务上，差距缩小甚至反转。
一项深度分析，探讨为何AI公司在知名研究者宣称缩放时代结束且收益递减已被广泛承认后，仍持续扩展系统，审视驱动该行业的结构与财务激励。