标签
Shopify 工程团队描述了用 MySQL 替换 Redis 进行库存预留,利用 MySQL 的 SKIP LOCKED 特性在高峰流量下实现高吞吐量扩展,并消除了不同系统之间的一致性问题。
Azure Friday 节目中,Scott Hanselman 和 Paula Berenguel 演示了如何使用只读副本和虚拟终结点进行故障转移,在 Azure Database for PostgreSQL Flexible Server 上扩展读密集型工作负载,这采用了与支撑 ChatGPT 相同的模式。
一篇详细的技术博文,解释如何使用SKIP LOCKED和适当的事务隔离级别来扩展基于PostgreSQL的队列,实现每秒3万次工作流执行。
本文讨论软件系统在规模增长时因资源饱和而失效的现象,类比生物系统的极限,并介绍物理资源(CPU、内存、磁盘、网络)饱和和虚拟限制对系统可靠性的影响。
对OpenHands CEO Robert Brennan的采访,探讨如何将AI智能体从个人笔记本电脑扩展到企业基础设施,涵盖自动化、治理、成本控制和模型灵活性。
本文介绍了 Memory Decoder at Scale,将参数化长期记忆模型扩展至 6.9B 参数,并在 300B token 上预训练,表明独立扩展记忆比单独扩展基础模型更具参数效率。
SSI这家由Ilya Sutskever领导的AI公司已与NVIDIA合作,以规模化一项机器学习和AI领域的新发现。
MCP 迎来重大更新,核心协议全面无状态化,告别 session 和长连接,更适合 serverless、边缘部署与横向扩容,被称为自发布以来最大更新。
本文介绍了探索式建模(Explorative Modeling),这是一种新的生成建模范式,通过探索模型生成与数据之间的候选匹配来分解训练循环。它确立了除参数和数据之外的第三个预训练轴,提高了图像、视频和语言领域的扩展效率,并以更少的推理步骤实现端到端生成建模。
MoLGE在混合专家框架中为相似语言簇分配专用专家模块,用于大规模多语言ASR,在参数增加极小的情况下提升495种语言的性能。
Miles Brundage分享了一个关于工业规模蒸馏的链接,可能指的是一篇关于AI中大规模模型蒸馏的研究论文或讨论。
伊利亚·苏茨克弗的创业公司SSI宣布与NVIDIA建立战略合作伙伴关系,其中包括一笔重大投资,将在未来12个月内实现计算能力提升十倍,标志着其AI研究的规模扩大。
英特尔的实验为企业领导者提供了构建自主AI基础设施的五项实用经验,强调这是一个超越推理的系统问题,并提供了代理密度和任务延迟等指标以有效部署。
关于实验室训练10T参数模型可能使用的数据来源的讨论,包括合成推理链和人类生成的痕迹,以及对触及数据墙的担忧。
Kimi 的 CEO 杨植麟主张避免精巧架构,优先考虑规模化,例如 Moonshot 的 MuonClip 修复方案使得在 15.5 万亿 token 上稳定训练成为可能。
据传DeepSeek创始人梁文峰概述了一份AGI路线图,侧重于思维链推理、智能体、持续学习、AI自我改进和具身智能。该路线图解释了公司当前的优先事项,包括编码智能体和通用智能体,同时降低垂直智能体、视频生成和商业化的优先级,以集中解决持续学习这一关键瓶颈。
本文探讨了扩展语音代理时面临的挑战,指出问题会出现在不同层面,并找出了通常最先限制性能的瓶颈。