scalability

这篇博客文章讨论了使用 Redis 和 H3 六边形坐标为零工经济配送应用中的路由引擎估计提供缓存解决方案，并着重介绍了 Redis 集群键分布和多键命令所面临的挑战。

本文介绍了限制大规模MoE训练中四个关键内存峰值的方法，使得在1M上下文长度下使用固定GPU内存进行训练成为可能，并且相比基线，吞吐量提升高达10.4倍。

Toollery是一种免训练的候选压缩框架，通过基于检索的方法提升了LLM代理工具和技能选择的可扩展性与效率。

Agensh 是一个可扩展的自组织多代理系统，无需中央协调器，通过扩展代理数量来提高复杂任务的性能，在ProgramBench和pandoc等基准测试中显示出显著的测试通过率提升。

作者分享了Jev在构建AI代理框架自定义验证器的新用例，通过结合System One和System Two模型实现可扩展的测试时计算。

本文介绍了压缩活跃子空间（CAS），一种通过压缩参数空间来实现大型神经网络中可扩展贝叶斯推断的方法，同时保持预测性能。

EdgeReMIND 是一个用于时间多关系链接预测的可扩展记忆基线，在 TGB 2.0 基准测试上取得了顶级性能，尤其是在嵌入方法因计算限制而失效的大型数据集上。

Agent Substrate 是一款开源的代理执行运行时，现已在 Google Kubernetes Engine 上可用，提供高密度沙箱，具有亚秒级激活和安全功能，用于扩展 AI 代理。

本文讨论了公司从几个 AI 代理扩展到数十个时遇到的运营挑战，提出了一种将业务逻辑与技术控制分离的解决方案，以有效管理代理工作流。

本文质疑了为人工核查而限制AI代理运行的常见做法，并探讨了当任务量超出人工监督能力时的结构性替代方案。

本文介绍了一种用于非线性神经反馈系统可扩展验证的分支定界框架，通过结合组合求解器和传播求解器（如 rail 和 clipper 工具）来改进现有最优方法。

本文讨论了开源体素RPG游戏Veloren中的非传统开发选择，重点介绍了使用实体组件系统（ECS）来实现可扩展性以及玩家与NPC的统一二元性，为游戏开发者提供了见解。

文章认为，企业AI试点项目常常因创建碎片化工具而失败，并强调需要一个统一的智能体操作系统来构建可扩展的AI能力。

本文提出了一种用于供应链分析的混合式智能代理AI框架，该框架使用协调代理和专门代理来改进决策，实现90%的准确率，并将令牌使用量减少四倍。

本文使用Google Maps评论来衡量人口层面的食物可及性的多个维度，揭示了仅地理邻近性所遗漏的障碍，并展示了感知可及性如何在社会经济层面上变化。

币安的Changpeng Zhao发推称，平台现在能处理2018年曾遇到问题的用户注册量，显示出可扩展性和基础设施的增强。

文章探讨了代理运营的公司是否能够通过利用AI代理进行产品开发和客户管理等任务来实现指数级增长，同时讨论了关于模型故障重叠的实验以及构建弹性系统以有效扩展的挑战。

本文探讨了智能体记忆如何将向量搜索转变为长期存在的系统问题，强调了需要超越搜索算法的可扩展、可靠的基础设施。

OpenAI的Habitat存储平台为ChatGPT和Codex等服务提供动力，年同比增长超过10倍，并用Rust重写以在峰值时处理超过2000万请求每秒。

PlanetScale在其Neki平台上实现了每秒1.18亿次查询的性能，并在512个分片上实现了线性扩展，展示了卓越的数据库操作性能和吞吐量。