两支AI团队正在探索LoRA持续学习方向

其中一家是 http://river.ai，创始人兼CEO为伊戈尔·巴布什金（Igor Babuschkin，前xAI联合创始人，此前在DeepMind从事生成式建模与强化学习研究，在OpenAI负责大规模训练）。核心团队来自xAI和Tesla，成员背景涵盖DeepMind/OpenAI。融资情况：种子轮加A轮总计11亿美元。可以使用自己的数据和GPU，训练能够从经验中持续学习的专属LoRA模型。

另一家是Mindverse，一家获得美团龙珠投资（融资规模超5000万美元）的LoRA公司，主要聚焦于通过LoRA实现持续学习方向。他们基于开源模型进行后训练（已开发自己的LoRA RL框架）。早期主要产品是一款独立应用（Macaron应用），定位生活领域的个人助手，但目前其公开的主要收入并非来自该应用——而是来自其RL-for-LoRA模型的后训练云服务。相反，该应用的用户体验较为一般，但其早期定位实际上与Muse等Agent产品颇为相似。感觉公司的重心已转向RL云服务，团队似乎更偏向技术背景而非面向C端用户。

公司/产品：https://macaron.im（C端个人助手“Macaron”） 研究实验室Mind Lab：

River AI — 您的专属前沿AI实验室。通过单一API实现。

来源：https://river.ai/ River / 前沿AI开发技术栈

您的专属前沿AI实验室。通过单一API实现。

构建能从经验中学习的前沿模型和智能体。使用强化学习提升其推理、使用工具和完成任务的能力。通过单一API在River Cloud或您自己的GPU上进行训练和部署。

River技术栈

训练

强化学习打造更优智能体

训练与推理工作器形成学习循环——训练工作器将更新的权重发送给推理工作器。推理生成试验轨迹并进行评分，将奖励和训练数据反馈至训练环节。更新的权重/试验轨迹&奖励/训练工作器/推理工作器

生产推理

您的模型，服务您的用户

生产推理由大量用户访问——推理工作器将部署的模型提供给众多用户和应用。推理工作器

River API 共享GPU集群

训练&试验轨迹/共享GPU集群/生产推理

使用River Cloud或在自有GPU上进行本地部署 (https://river.ai/#deployment)

优化模型·经大规模RL验证/探索系统 (https://river.ai/#develop)

值得前沿团队信赖。

01训练与推理 (https://river.ai/#develop) 02云端或本地部署 (https://river.ai/#deployment) 03掌控学习过程 (https://river.ai/#docs) 04开始构建 (https://river.ai/#build) 01训练与推理

AI的下个时代。您自主掌控的智能。

围绕您的专业知识构建模型和智能体。强化学习将经验转化为更强能力：智能体尝试任务，您对结果进行评分，模型从中学习。

训练

构建在您的工作中不断进步的智能体。

基于专家示例微调开源模型，然后通过强化学习使其持续改进。定义任务、工具和奖励机制；River负责运行驱动您学习循环的训练与推理。

监督微调/使用您的数据、示例和专家演示来传授您的领域知识。 强化学习/使用您自己的环境和奖励机制，训练智能体进行推理、使用工具并完成多步任务。

生产推理

将您构建的智能投入使用。

将训练好的检查点转换为模型部署。将您模型的能力应用于面向客户的产品、内部工具和智能体。

从检查点到部署/保存推理权重，并以可供您应用程序使用的模型名称发布。 通过熟悉的API连接/通过River的Python客户端或兼容OpenAI的端点流式传输响应。 为训练与推理优化的开源权重模型

DeepSeek/Kimi/Qwen/GLM/Nemotron

探索模型 (https://river.ai/#models)

模型工程

每个模型，优化与测试

我们对每个支持的开源权重模型进行训练与推理优化。我们的定制实现比开源替代方案运行更快。我们处理GPU拓扑结构和性能调优，并对每个模型进行正确性测试——因此您可以放心地比较模型和进行实验。

定制训练与推理引擎·拓扑感知优化·单模型正确性测试

RL可靠性

大规模可靠RL

在大规模应用中，细微的错误可能破坏学习循环。我们仔细评估并压力测试API，以控制KL散度失配和数值不稳定性——让您专注于改进智能体和开发新的训练算法。

KL散度失配检查·数值验证·大规模压力测试

02掌控技术栈

前沿能力。自主掌控。

您的模型是战略性资产。在哪里构建和运行它们——对数据、权重和计算资源完全掌控。

托管基础设施

River Cloud

开箱即用的完整AI实验室。专注于您的模型，由River运营基础设施。

• 托管训练、采样与推理
• 下载您训练好的权重并自行保管
• 按使用量计费，按token收费

在River Cloud上开始使用 (https://console.river.ai/) 了解River Cloud (https://river.ai/#contact) 本地部署·您的基础设施

River Cluster

将您已有的GPU转变为前沿AI实验室。在您的环境中部署相同的River产品。

• 在您现有的GPU集群上进行训练和推理
• 您的数据和模型权重保存在您的环境中
• 相同的API、工作流和控制台

将River引入您的集群 (https://river.ai/#contact)

无论您选择在哪里运行，都是相同的River产品。

03掌控学习过程

从实验到部署

创建训练任务，探索您的下一个算法，并将检查点转换为部署的模型。使用River的Python客户端进行训练和部署，然后通过兼容OpenAI的API提供服务。

Python / 从实验到部署/探索真实API

开源模型→您的训练任务

从Python进行分布式训练

选择一个开源模型，配置其适配器，开始从您的数据中学习。River处理每个训练步骤背后的计算。

train_step 在服务器端处理前向/反向传播和优化器更新。控制学习率、损失函数和优化器设置。

探索Python客户端 (https://docs.river.ai/)

train.py 您提供的tokenized批次

`` import river_client as river

client = river.Client(api_key=“…”) with client.session(project=“my-lab”) as session: model = session.create_model( base_model=“Qwen/Qwen3.6-35B-A3B-FP8”, lora=river.LoraConfig(rank=16), ) model.train_step( batch, lr=1e-4, loss_fn=“cross_entropy”, ) # 在此会话中继续采样或部署。 ``

River处理底层系统。

分布式训练/推理与采样/权重传输/检查点部署

从初次微调到全新的后训练算法。基于专为您的研究设计的原语构建。

查看训练配方 (https://river.ai/#examples)

River控制台

查看您的实验室实时运行情况

无需错过实验细节，即可查看集群中的所有活动。控制台将您团队的训练任务、检查点和部署集中在一处。

• 跟踪训练任务，发现需要关注的问题。
• 管理检查点和生产推理部署。
• 追踪使用量、支出和团队余额。

打开控制台 (https://console.river.ai/)

console.river.ai 示例工作区

余额 查看账单

$24,850.00

可用于训练和推理

本月token数 84.2M

本月支出 $5,150.00

团队任务 查看所有任务

GLM-5.3-Flash 研究团队 · <1分钟前 运行中

Qwen3.8-27B-FP8 研究团队 · <1分钟前 运行中

Kimi-K2.6-NVFP4 研究团队 · 2分钟前 运行时间长

GLM-5.3-Flash 研究团队 · 3分钟前 运行中

新功能

使用SSO登录

将您组织的身份提供商连接到River。

联系我们了解SSO ↗

River on AWS Marketplace

使用您的AWS账户使用River，将账单统一管理。

在AWS Marketplace上查看 ↗

文档

监督微调/强化学习/Python参考/示例

River控制台，以示例数据展示。在一个工作区中管理训练、部署、使用量和支出。

04开始构建

快速上手所需一切

01选择您的基础模型 River Cloud模型目录 以下每个模型均经过训练与推理优化，并通过正确性测试。上下文窗口以token数显示。如需本地部署模型和硬件要求，请联系我们 (https://river.ai/#contact)。

Qwen3.8 · 稠密模型

Qwen3.8 27B

262k

Qwen3.6 · 混合专家模型

Qwen3.6 35B

262k

Qwen3.5 · 混合专家模型

Qwen3.5 397B

262k

Kimi · 混合专家模型

Kimi K2.6

32k262k

GLM · 混合专家模型

GLM 5.2

32k262k

GLM · 混合专家模型

GLM 5.3 Flash

262k

DeepSeek · 混合专家模型

DeepSeek V4 Flash

262k

Nemotron · 混合专家模型

Nemotron 3.5 Lightning 30B

262k

02探索训练配方 Python示例 · GRPO与CISPO 简化的研究示例，展示API的使用方式。您可自带数据准备、奖励函数和评估方案。

一个简单示例： 在GSM8K上进行一个最小化的GRPO循环，训练Kimi-K2.6-NVFP4。初始奖励较低，因为Kimi的思考倾向于超过128 token的限制，随着它学会在限制内回答，奖励迅速攀升至0.9以上。

rl_loop.py

`` import river_client as river from datasets import load_dataset from transformers import AutoTokenizer

MODEL = “nvidia/Kimi-K2.6-NVFP4” BATCH = 256 # 每步提示数 GROUP = 4 # 每个提示的样本数 MAX_TOKENS = 128 LORA_RANK = 16 LR = 4e-5 # 学习率

client = river.Client(api_key=“…”) tok = AutoTokenizer.from_pretrained(MODEL, trust_remote_code=True) gsm8k = load_dataset(“openai/gsm8k”, “main”, split=“train”) # 数学应用题

def reward(text, answer): # 如果 \boxed{…} 中的答案与GSM8K标准答案匹配，则返回1.0，否则返回0.0 return float(extract_boxed(text) == extract_gsm8k_answer(answer))

def make_prompt(question): … # 使用聊天模板渲染问题（并添加“…将答案放在\boxed{}中”后缀）

with client.session() as session: model = session.create_model( base_model=MODEL, lora=river.LoraConfig( rank=LORA_RANK, train_attn=True, # 注意力投影层 train_mlp=True, # MLP / 混合专家模型 train_unembed=True, # 解嵌（lm_head） ), )

for step in range(len(gsm8k) // BATCH):
    rows = gsm8k.select(range(step * BATCH, (step + 1) * BATCH))
    prompts = [make_prompt(q) for q in rows["question"]]

    # 1. 为每个提示采样一组候选答案
    groups = model.sample(
        prompts=prompts, num_samples=GROUP, max_tokens=MAX_TOKENS, stop=["