标签
在 Startup School 2026 上,谷歌首席科学家 Jeff Dean 讲述了那个让谷歌搜索索引能装进内存的餐巾纸计算,以及 TPU 的研发过程,探讨了推理硬件专业化的趋势,以及初创公司如何依然有机会竞争。
Gergely Orosz 称赞 Sirupsen 对网络和延迟基础知识有深刻理解,引用一次采访中 Sirupsen 使用粗略计算构建了一个成本降低10倍或速度提升10倍的产品。
这条推文突出了AIE Worlds Fair上的一场炉边对话,西蒙·埃斯基尔德森(Simon Eskildsen)强调了粗略计算的价值,用于估算系统理论吞吐量上限并理解实际性能为何存在差异。
一篇技术指南,展示如何使用简单的粗略估算来估计大规模服务AI模型的成本,涵盖GPU带宽、矩阵乘法、令牌定价和用户容量。
一项粗略估算分析显示,来自OpenAI和Anthropic的慈善资本每年可为美国捐赠增加370亿至1000亿美元,极大扩充可用资金,但也暴露出运营能力上的缺口,难以有效使用这些资金。