标签
在ModCon 2026上，Ehsan M. Kermani 和 Bingfeng Xia 进行了一次对MAX技术栈的逐层解析，包括MAX Serve、框架和Mojo内核库，最后以一个新模型代理的现场演示结束。
LARA是一个研究项目和PyTorch库，使用低秩残差适配器为冻结的大型语言模型启用模块化、可组合的行为，允许高效的训练和推理时多种行为的融合。
Brendan Hansknecht from Modular 解释说，他们的高性能源于将性能视为一个全栈问题，而不是依赖生产中的零散组件。
ModCon2026，由 Modular 举办的开发者大会，专注于讨论 AI 基础设施、训练和推理的经济学，以及开源模型的影响，Dave Munichiello 突出了活动要点。
本文介绍了“参与扩展”这一新范式，通过多样化利益相关者的贡献构建模块化AI系统。其中，小型模型协作在多种任务上比单体LLM性能高出最多15.4%，展现出涌现能力并改善多样性收益。
来自Amazon AGI的研究人员提出了Cartridges at Scale（CAS），这是一个将文档集合提炼为模块化、可复用KV缓存的训练框架，支持对超过百万token的文档集合进行可扩展的多Cartridge学习。CAS在整体式Cartridge基线上提升了10至31个百分点，同时在准确率上与传统RAG持平甚至超越，而所消耗的提示token数量减少了3至4倍。
提出了一种名为PDRNN的模块化混合AI辅助行人航位推算系统，该系统结合了循环神经网络与分别用于方向、速度和距离估计的独立机器学习模型，并可选地使用基于无线电的稳定。在动态运动数据上的实验表明，与经典方法和基于机器学习的方法相比，其准确性和精度更优。