标签
LayerFS 为 AI 编码代理提供专用文件系统：每个代理挂载一个临时可写工作区并提交到共享的持久历史，实现大规模并行开发、零成本分叉、去重压缩存储以及即时依赖挂载。
Devin AI 智能体现在可以生成并管理自己的子 Devin，使单个任务能够分支成多层级的智能体树。这样就能实现并行执行，大型任务的完成时间取决于其最慢的子任务，而不是所有部分的总和。
一篇深入解析大模型推理并行策略的文章——涵盖数据并行、张量并行、流水线并行、上下文并行以及专家并行，讲解如何将推理任务拆分到多张 GPU 上，同时避免通信开销拖累性能。文章梳理了预填充（prefill）与解码（decode）两个阶段的区别、内存与通信瓶颈，并说明如何结合模型、硬件和工作负载约束，选定一种有说服力的并行布局。
该推文突出了从美国西海岸调用 Jev 的低延迟和可扩展性，每个请求处理 6 个问题需要 130 毫秒，并且在高并行性下延迟几乎恒定，表明设计良好，并且随着专业模型的增加，未来潜力更大。
本文提供了运行8x NVIDIA RTX PRO 6000 Blackwell GPU处理AI工作负载的实用指南，重点介绍高并发推理、模型集群和70B微调，同时与更昂贵的数据中心解决方案进行性能比较。
PlanetScale 描述了它如何通过为每个分片启动 EC2 实例、从对象存储恢复之前的备份并重放 WAL，来对分片 Postgres 数据库执行大规模并行备份，从而实现超过 50 GB/s 的 PB 级备份速度。
本文讨论了为改进NumPy在自由线程Python（无全局解释器锁的Python）上的性能所做的努力，从而实现了更好的并行性和可扩展性。
说明如何使用Excel公式（每个单元格计算颜色）来解释着色器的工作原理，展示了GPU的并行处理能力。
K 和 Q 编程语言的新运行时，利用 SIMD、并行、融合和压缩技术重新构想执行方式，以更好地发挥现代硬件的性能。
推荐Harrison Chase关于多agent系统设计指南的博客，核心观点是多agent系统分'读'和'写'，读易并行，写易冲突，并总结了适合与不适合的场景以及工程配套。
本文解释了批处理和并行操作如何改善AI计算机使用系统中的延迟和效率，重点介绍了pi-computer-use和cua-driver等开源实现，它们在Codex出现类似功能之前就取得了显著的性能提升。
Rob Pike在2012年的演讲解释了并发与并行的区别，强调并发是关于独立执行任务的组合，而并行是关于同时执行。这场演讲是计算机科学教育中的经典之作。
作者讨论了将AI记忆摄入从数千份扩展到数百万份文档的架构，强调编排和并行性而非原始计算能力，并使用Prefect进行工作流管理。
作者分享，从单个24GB GPU升级到双24GB GPU后，LLM性能提升并非通过更大模型实现，而是通过并行性：使用一个主编排代理配合多个较小的子代理，从而提高了编码任务的整体吞吐量。
一条推文列出了16种推理优化技术，用于实现低于一秒的LLM响应，包括KV缓存、推测解码、FlashAttention和各种并行化方法。
从单个AI智能体过渡到协调的智能体集群的详细路线图，涵盖何时拆分、如何无冲突地运行并行子智能体，以及如何使用Claude Code原语在大规模下保持系统稳定。
本文介绍了DigenRL，一个用于基于扩散的生成式LLMs的解耦RL框架，它利用生成轴流水线并行和训练器辅助生成，相比现有系统实现了1.56-2.10倍的吞吐量提升。
这篇博客分析了PivCo-Huffman论文，该论文引入了并行Huffman解码的“合并”操作，无需交错开销即可实现高效的向量化和GPU友好解码。