标签
Brendan Hansknecht from Modular 解释说，他们的高性能源于将性能视为一个全栈问题，而不是依赖生产中的零散组件。
ModCon2026，由 Modular 举办的开发者大会，专注于讨论 AI 基础设施、训练和推理的经济学，以及开源模型的影响，Dave Munichiello 突出了活动要点。
本文介绍了“参与扩展”这一新范式，通过多样化利益相关者的贡献构建模块化AI系统。其中，小型模型协作在多种任务上比单体LLM性能高出最多15.4%，展现出涌现能力并改善多样性收益。
来自Amazon AGI的研究人员提出了Cartridges at Scale（CAS），这是一个将文档集合提炼为模块化、可复用KV缓存的训练框架，支持对超过百万token的文档集合进行可扩展的多Cartridge学习。CAS在整体式Cartridge基线上提升了10至31个百分点，同时在准确率上与传统RAG持平甚至超越，而所消耗的提示token数量减少了3至4倍。
提出了一种名为PDRNN的模块化混合AI辅助行人航位推算系统，该系统结合了循环神经网络与分别用于方向、速度和距离估计的独立机器学习模型，并可选地使用基于无线电的稳定。在动态运动数据上的实验表明，与经典方法和基于机器学习的方法相比，其准确性和精度更优。