@MilksandMatcha: “现实世界大部分实际上都是长尾分布。而以最低成本学习长尾是当前最重要的问题之一…”
摘要
在一条推文中，Sarah Hooker 指出 GPU 并不适合现实世界数据的长尾分布，并建议需要替代性 AI 硬件。
“现实世界大部分实际上都是长尾分布。而以最低成本学习长尾是当前最重要的问题之一。”
@sarahookr 谈到为什么 GPU（专为密集、可预测的矩阵乘法而设计）是人工智能正在进入的世界中所使用的错误工具。
与 @Cerebras 和 @alyciazcary 共同呈现。
查看缓存全文
缓存时间: 2026/06/18 02:06
“现实世界中的大部分实际上都是长尾。而如何尽可能低成本地学习长尾是当前最重要的问题之一。”
@sarahookr 谈及为何GPU——专为密集、可预测的矩阵乘法而设计——正在成为AI实际进入的世界中不合适的工具。
由 @Cerebras 和 @alyciazcary 呈现。
相似文章
@TheAhmadOsman：我们正进入一个时代——用运行在昂贵硬件上的模型，制造能够在廉价硬件上运行的模型……
Ahmad Osman 认为，我们正进入一个新时代：运行在昂贵硬件上的大型模型将被用来创建可以在廉价硬件上运行的模型，而 ODS 的使命是让本地 AI 成为日常设备（例如一台 2013 年的笔记本电脑）上的默认选项。
@LottoLabs: 运行本地模型所学的技能比硬件成本更有价值
这条推文认为，运行本地模型所获得的技能比硬件成本更有价值。
@TheAhmadOsman：你不觉得你的 GPU 会自己租用 GPU，来训练出更好、更先进的自己吗
一段 Twitter 上的交流，探讨 GPU 是否最终会租用更多 GPU 来训练更先进的自身版本，同时指出，算力不足和 token 生成不足在未来多年里仍将是 AI 进步的瓶颈。
“硬件是唯一的护城河”——我们应该现在购买新硬件还是等待？
文章讨论了硬件作为AI竞争优势日益增长的重要性，指出领先实验室更注重产品竞争力和计算规模，而非纯粹的AGI研究。文章强调了由此导致的消费级GPU供应紧张和硬件升级成本上升的问题。
@Skaly__Bull: 传统AI技术栈正在消亡 他们只是还不知道而已 1万美元的企业服务器、数据中心GPU、机架和…
作者认为传统企业AI技术栈已经过时，声称一台599美元的Mac mini运行Ollama就能以80%的质量本地处理80%的AI工作负载，而成本仅为租用云GPU的一小部分。