@seclink: 冷知识： Mamba 阵营：走的"云侧前沿模型"路线，客户是 NVIDIA/AI21/IBM 这类卖企业 AI 平台的公司 → 如果你要做长上下文、低成本推理的云 API 数据加工，这个方向值得跟踪。 RWKV 阵营：走的"端侧/边缘内置…
摘要
文章对比了Mamba和RWKV两个AI模型架构阵营的路线：Mamba面向云侧企业AI平台，RWKV面向端侧和边缘设备，各自适配不同硬件与推理场景。
查看缓存全文
缓存时间: 2026/08/14 13:39
冷知识：
Mamba 阵营：走的“云侧前沿模型“路线，客户是 NVIDIA/AI21/IBM 这类卖企业 AI 平台的公司 → 如果你要做长上下文、低成本推理的云 API 数据加工，这个方向值得跟踪。
RWKV 阵营：走的“端侧/边缘内置“路线，客户是芯片厂、机器人、操作系统 → 如果你将来想做端侧灵巧手 / 第一视角设备的本地实时推理数据闭环，RWKV 的常显存、无 KV cache 特性反而更贴你的硬件约束。
相似文章
@MaxForAI: http://Z.ai和清华这篇ZCube，做Infra的家人们值得看下。 很多人聊AI infra，第一反应还是GPU、显存、量化、推理框架。 但到长上下文和Prefill-Decode分离之后，网络已经不再是机房里的「配角」了。 每一…
ZCube是一种新的网络架构，通过打平拓扑并混合单/多轨接入，优化了长上下文和PD分离场景下的KV Cache传输，在GLM-5.1生产集群中实现了交换机/光模块成本降低33%、GPU推理吞吐提升15%、TTFT P99下降40.6%。
@seclink: 1. Dell + NVIDIA 发布 Agentic AI 全栈方案（影响力最高） - 事件：Dell 联合 NVIDIA 推出「AI Factory」+ 桌面级 Agentic AI 产品线，从本地工作站到液冷机柜全覆盖 - 关键数据…
Dell与NVIDIA联合发布Agentic AI全栈方案，包括AI Factory和桌面级产品线，覆盖从本地工作站到液冷机柜，旨在降低企业将AI推理工作负载路由到公有云的成本和延迟。
Dreamscale 实验室
Dreamscale Labs（YC F26）推出面向机器人的实时云推理平台，以超低延迟提供前沿物理 AI 模型（如 VLA、WAM）的按需云端推理，免去购置昂贵 GPU 的成本。
本地 AI 多智能体群集
作者探讨了一种面向本地受限硬件（<6GB VRAM）的解耦式多智能体架构：用单个中等规模推理模型作为编排者，配合多个 1-3M 参数的 CPU 端「纳米模型」处理高频例行任务，仅在低置信度时向上升级，实现零云、空气隔离的边缘优先系统。
EdgeWise：通过选择性云端委派将长时程智能体引入边缘端
EdgeWise 是一个边缘-云协作框架，在本地部署小语言模型（SLM）作为主要求解器，并通过强化学习在关键步骤选择性地将任务委派给云端大模型，从而在 SWE-Rebench 上降低高达 62%、在 Terminal-Bench 2.1 上降低 34% 的推理成本，同时保持与纯 LLM 执行相当或更好的性能。