标签
哈里·斯特宾斯分享了缺乏自信如何推迟了他的创业之路——如今他的初创公司估值已达157亿美元——并指出，AI推理的需求远远超出任何人的想象。
文章分析了硅谷AI生图/视频推理云平台fal的快速崛起：年收入约8亿美元、估值或达150-200亿美元，两年前年收入仅约一千万美元。fal的核心模式是不卖显卡，而是提供一排可随时切换的模型，从模型快速迭代、没有长期赢家的市场中获利。
一种"Rack Spread"现象正在形成：自7月中旬以来，B300/B200/H100等高端GPU租赁价格大幅上涨，而平均Token价格却下降了58%，反映出推理需求快速增长但高端算力供应持续紧张。
Sam Altman 认为，在全球内存（RAM）短缺持续加剧的背景下——这一局面由与三星、SK 海力士等公司的长期供应协议以及 OpenAI 的 Stargate 项目所推动——将有限的 DRAM 囤积在个人电脑中远不如将其集中用于云端数据中心来得高效。
Sam Altman 说 DRAM 厂商虽将进入每年约 1000 亿美元自由现金流的时代，但因过去多次濒临破产的记忆而不敢激进扩产，导致芯片供应链的'看不见的手'失灵，内存短缺无法自我修正。他同时谈到 OpenAI 垂直整合芯片、数据中心与机器人，以及数据中心成本与个人 AI 智能体的前景。
英伟达参与了印度初创公司 Simplismart 的一轮 1400 万美元 B 轮融资，该轮融资对公司的估值约为 1 亿美元。Simplismart 开发的软件可让 AI 模型在现有 GPU 基础设施上更高效地运行。
# Modular 公布 MAX 完整源代码并推出简化版 MAX License Modular 宣布 MAX 的完整源代码现已公开，并同步推出简化后的 **MAX License**，允许开发者**免费使用、修改并发布商业产品**，同时通过少量限制防止生态碎片化。 此举是 Qualcomm 完成收购 Modular 后，向**统一异构计算软件平台**迈出的关键一步。
Railway 披露了一起安全事件，未经授权的第三方可能已经访问并解密了部分客户的环境变量。为此，Railway 暂停了部署，并建议所有用户轮换密钥。该公司认为，此次攻击是针对平台公司、旨在入侵 AI 推理服务提供商的大规模攻击活动的一部分。
开发者计划于十月使用 Go 构建一个分布式 AI 推理网关，探索 AI 基础设施、负载均衡、智能请求路由、缓存及多推理节点间的容错机制。
doubleAI 发布 Maxwell，首个“代码执行模型”，可在程序运行时重写二进制以适配特定硬件与数据，并通过形式化证明保证优化等价，带来 38× 数据管线加速与 4.25× AI 推理内核加速。
一篇博客文章系统分析了决策模型（如 Jev）的经济学，探讨其 choice/score/noul 输出类型、几乎免费的输出 token 成本，以及由此衍生的"决策层级"内存层级类比。
微软将其Azure Maia系统扩展到多吉瓦级部署，将面向生产工作负载的Maia 200与计划于2027年推出的Maia 300区分开来，这引发了关于如何跨代公平比较推理效率的讨论。文章强调，在明确的负载和质量校验下，每次有效产出的能耗等指标比原始吞吐量更重要。
风险投资人Tom Tunguz认为，AI推理正有望超越数据库，成为最重要的软件市场，到2027年规模将达约3500亿美元，接近Gartner数据库预测的2倍。他详细分析了按用量计费的推理成本、不断压缩的毛利率以及BYOK（自带密钥）将如何重塑应用层SaaS的经济学。
pg-jev 是一个开源的 Postgres 扩展，通过 TypeSafe 的 Jev 模型，让你用自然语言条件对数据行进行过滤、分类和排序，无需向量列或 embedding 索引。
DeepSeek V4.1 Flash 现已在 RunInfra 的推理 API 上线，提供 378 tok/s 的输出速度、30ms 的首 token 延迟，输入价格仅为 $0.14/1M tokens。该服务支持兼容 OpenAI 和 Anthropic 的接口，默认不保留任何用户数据。
Modular 在 ModCon 2026 上展示其 Mojo/Max 技术栈如何通过小型 C 接口和算子扩展，将 Gemma 4 31B 模型近乎零改动地部署到 Amazon Trainium、Google TPU 及其他加速器上，其中 dMatrix 在拿到 Mojo 编译器访问权限后仅 6 天就在 Corsair 加速器上跑通了矩阵乘法。
一位用户分享自己花了 6 万美元购买 12 台 DGX Spark，以便在本地运行接近前沿水平的 AI 模型。此前有消息称 NVIDIA 发布了新版 64GB DGX Spark，且所有型号价格均有所上涨。
AI 硬件初创公司 Volantis 宣布完成 8800 万美元 A 轮融资，将采用光互连技术大幅提升芯片的内存容量与带宽，为参数量超过 10T 的模型实现高达每秒 10,000 tokens 的超快速推理——这有望成为编程智能体领域的重大突破。
Volantis 宣布完成 8800 万美元 A 轮融资，用于构建突破 AI 内存墙的光互连技术，为超大模型的极速推理带来数量级级别的内存带宽与容量提升。
Manus推出Flex，这是一个新模块，允许用户使用自己的API密钥来驱动Manus的代理基础设施，初始合作伙伴包括OpenRouter、Fireworks和Modal。