标签
微软公布了其最新的 MoE 基础模型 MAI-Base-2(80B 激活参数 / 2.8T 总参数),在自研评测中超越所有开源权重模型,预训练 FLOPs 效率比 DeepSeek-V4-Pro-Base 高 4-12 倍,使用 16k 张 GB200 GPU 在 38 天内完成训练。
风险投资人Tom Tunguz认为,AI推理正有望超越数据库,成为最重要的软件市场,到2027年规模将达约3500亿美元,接近Gartner数据库预测的2倍。他详细分析了按用量计费的推理成本、不断压缩的毛利率以及BYOK(自带密钥)将如何重塑应用层SaaS的经济学。
River AI 推出其前沿 AI 开发套件,声称帮助 Ivo 的合同审查智能体在 LAB 基准测试中从 70% 提升至 91%,且成本低于竞争对手,通过 River AI Cloud 或本地集群,使用优化的开源权重模型进行 RL 训练和推理。
科技巨头正在终止无限制AI订阅,引入计算额度与每小时上限,给繁重工作流带来压力,标志着云端超算作为无限资源的终结。
Nvidia 正在支持 Span 的一项计划,部署住宅微型数据中心,利用闲置的家庭电力运行分布式 AI 工作负载。该方案旨在通过将 GPU 节点部署在住宅附近来规避电网限制,尽管其在实际部署中仍缺乏充分验证。