distributed

PyTorch 2.14 引入了重大更新，包括在 Inductor 中使用 NVGEMM 处理 CUTLASS 内核，用于分布式计算的新 nccl2 后端，高级容错性，以及在 Apple Silicon 上的原生线性代数。

AlpinDale称，在4个节点的RTX 4090（48GB）上运行GLM-5.2-FP8，通过10吉比特以太网实现约28 tok/s的解码速度，并计划使用DSpark进行优化。

本文提出了一种统一的算法框架，用于在划分拟阵约束下的分布式在线子模最大化，在完全信息和赌博机反馈两种情况下均实现了次线性 (1-1/e)-遗憾保证。此外，还引入了一种有界随机管道取整方案，以确保累积采样违规保持次线性。

LangChain宣布推出SmithDB，这是一个专为代理可观测性构建的分布式数据库，为LangSmith提供支持，性能提升高达12倍，并支持复杂的代理跟踪查询。

ActiveMem提出了一种分布式主动记忆系统，将智能体记忆与大模型核心推理过程解耦，在长程任务上实现了最先进的准确率，同时显著降低了开销。

一个程序员利用全网390万个开放DNS解析器的缓存来存储文件碎片，创建了一个名为dnsfs的荒诞开源项目，文件随着缓存过期而消失。

本文提出了一种分布式方法，用于约束多智能体强化学习，该方法采用状态增强策略学习和对偶变量上的邻居间一致性，以在满足全局资源约束的同时实现智能体数量线性扩展。在智能电网需求响应上的实验表明，一致性协调对可行性至关重要：与集中式训练方法不同，它能够扩展到数千个智能体。

MLX 面向 macOS 的 RDMA-over-Thunderbolt 实现已独立成库，任何人都能用它组建高速 Mac 集群，在本地跑 AI 负载。

Apache Cassandra 是一个高度可扩展的分区行存储数据库，通过其 Cassandra 查询语言（CQL）自动在机器间分布数据。