@levie：如果你曾经好奇为什么未来我们需要100倍的AI推理，以及它将由什么驱动，这…

X AI KOLs Following 产品
ai-inference agentic-mapreduce code-security devin cognition agent-swarms scaling

摘要

本文讨论了Devin的新功能'Security Swarm'，它使用Agentic MapReduce来扩展AI驱动的代码安全分析，说明了未来需要100倍AI推理的原因以及在各行业中战略部署多样化模型的重要性。

如果你曾经好奇为什么未来我们需要100倍的AI推理，以及它将被什么驱动，这就是另一个很好的例子。 Devin提出了agentic mapreduce的概念，这意味着我们现在将拥有大量代理（agents）处理大量数据（代码），以完成人类以前无法完成的任务。 “Devin会在代码仓库中映射相关信号，将专注的代理分派到有限的数据分片上，将它们的发现整合成一份报告，然后在隔离的沙箱中验证严重漏洞，最后标记为已确认。” 在这个案例中是代码安全，但在代码和知识工作中还有大量其他用例。我们在Box中看到客户希望处理和理解数百万份文档，以获取风险、洞察、关系等信息。这将在制药、银行以及许多其他行业的各种非结构化数据中发挥作用。 顺便提一下，这类能力通常只有在能够部署多种模型（包括前沿模型和低成本模型）时才能实现，因为这些用例涉及大量的token。这将成为应用AI层的主要价值主张。
查看原文
查看缓存全文

缓存时间: 2026/07/02 04:18

如果你曾好奇为什么未来我们需要100倍更多的AI推理，以及是什么在驱动这一趋势，这就是一个很好的例子。

Devin 提出了一种“智能体 MapReduce”的概念，这意味着我们将拥有大量代理，它们处理海量数据（代码）来完成人类之前无法完成的任务。

“Devin 在仓库中映射相关信号，将专注的代理分散到有限的碎片上，汇总它们的发现形成一份报告，然后在隔离的沙盒中验证严重漏洞，并标记为已确认。”

在这个例子中是代码安全，但在代码和知识工作领域还有大量其他用例。我们在 Box 看到，客户希望处理和理解数百万份文档，用于风险评估、洞察、关系发现等。这将在制药、银行和其他许多行业中，在所有形式的非结构化数据上实现。

另外，这类能力通常只有在能够部署各种模型（既包括前沿模型，也包括低成本模型）时才有可能，因为这些用例消耗的 token 数量巨大。这将成为应用层 AI 的一个重要价值主张。

Cognition (@cognition): 推出 Devin 安全集群 (Security Swarm)

一种基于全新架构——智能体 MapReduce——的更经济、更准确的方法，用于在复杂代码库中发现安全漏洞。

相似文章

@levie: 过去几个月，我们可能正在见证应用AI层在大规模场景下的模样。尽管一些初步的批评认为这只是LLM之上的一层薄薄封装，但事实证明，在企业中驱动自动化工作流远比想象中复杂得多。而任何存在复杂性的地方，随着时间推移，通常都会形成护城河并创造价值。

X AI KOLs Following

对企业中新兴应用AI层的分析，概述了关键组成部分：构建工作流特定功能、智能模型路由、通过FDE进行变更管理以及领域特定的市场策略。文章认为，尽管存在一些批评，这一层将创造可持续的护城河和价值。

AI推理遵循着截然不同的规则（9分钟阅读）

TLDR AI

文章指出AI推理对云数据基础设施提出了独特挑战，其需求更接近高并发OLTP系统，而非传统面向人类速度的应用。文章强调需要优化存储和数据访问层，以应对自主智能体驱动的"AI数据海啸"。

AI 战争正从模型转向硬件，但我觉得讨论得远远不够

Reddit r/artificial

一篇评论文章认为，AI 竞争正从模型质量转向硬件部署与基础设施。文中指出，微软的 Project Solara、英伟达的 RTX Spark 以及字节跳动自研 CPU 等案例表明，智能体工作负载正推动着硅片与部署策略的革新。