@kunchenguid: finally found time to make a new video! https://youtu.be/MSbacZ99E14 this time i'm sharing a slightly more advanced age…

X AI KOLs Timeline 工具

摘要

这是一个关于进阶代理工程的视频教程,展示了如何使用first-mate等工具协调多个AI模型进行高吞吐量并行任务处理。

finally found time to make a new video! https://t.co/uuRpjRGd5g this time i'm sharing a slightly more advanced agentic engineering session, focused on high throughput multi-tasking hope you find helpful! https://t.co/e1BVPbb0ez
查看原文
查看缓存全文

缓存时间: 2026/09/13 23:15

finally found time to make a new video! https://t.co/uuRpjRGd5g

this time i’m sharing a slightly more advanced agentic engineering session, focused on high throughput multi-tasking

hope you find helpful! https://t.co/e1BVPbb0ez


Kun的进阶代理工程工作流:利用first-mate与多模型团队实现高吞吐量并行任务处理。

讲者背景与工具概览

Kun是一位拥有Meta、Microsoft和Atlassian L8首席工程师经验的专家。他此前的视频已分享大量代理工程基础知识,本次将演示一个更进阶的工作流,重点是如何通过大量智能体实现高吞吐量的多任务处理。核心工具包括:

  • Herder:一个用于管理所有智能体会话的多路复用器,可轻松在不同会话间切换。
  • first-mate:一个开源项目,也是其工作流的核心。它是一个中央协调智能体,负责与其他所有智能体交互,用户只需与这一个智能体对话即可,无需频繁切换上下文。
  • pi & Claude Code:用于启动first-mate的智能体运行时。当需要使用Anthropic模型(如Opus, Fable)时使用Claude Code,其他情况则使用pi,因其支持多种模型且切换方便。

first-mate的设置与使用

first-mate的设置简单:克隆其仓库,并在该仓库内启动智能体。Kun演示了如何启动first-mate,并列出通过它管理的所有36个项目。

他强调默认使用语音输入进行自然语言提示,因为通常比打字更快,仅在输入网址等特定情况使用键盘。

first-mate启动后,会提供一个主工作会话。用户可在此会话中下达指令,协调所有项目任务。为减少干扰,Kun使用一个名为“calm”的自定义pi扩展,该扩展默认隐藏所有工具调用和日志细节,仅通过一个漂浮的小船图标显示智能体正在运行。用户可随时通过输入/com命令切换以查看详细调用。

智能体派遣与模型选择规则

当first-mate接收到任务(例如为backpass项目实现新功能),它会:

  1. 查找相关项目及预先制定的计划。
  2. 调用quota-axi工具检查各模型的可用配额。
  3. 根据预设的派遣规则,从多个候选模型中选择一个配额最充足的模型。
  4. 派遣一个新的执行智能体(团队成员)来完成具体工作。

派遣规则配置在crew-dispatch.json文件中。Kun举例说明了他的部分规则:

  • 新功能开发(如iOS应用UI):优先使用Fable模型。
  • 图像生成任务:使用CodeEx环境配合GPT 5.6 Soul模型。
  • 复杂技术规划与设计:使用Fable、Claude K3或Astra模型。
  • 简单错误修复:使用Luna、Sonnet、Cursor或Grok 4.6。
  • 默认任务:使用Claude Opus、Cursor或Grok 4.6 High。

quota-axi是另一个开源工具,用于监控和管理各类模型的配额使用状态(如Claude订阅、CodeEx、Cursor等),以避免浪费并确保选择最可用的模型。

多任务处理与并行工作流程

Kun通过向first-mate连续下达多个任务来演示高吞吐量处理。其工作流特点为:

  1. 并行派遣:first-mate本身不执行具体任务,它始终可以响应新指令。当用户提交新任务(例如为“Fry with Me”游戏项目设计视觉原型),它会立即派遣新的团队成员(如使用Fable模型的智能体)处理,而之前的任务(如backpass的开发)则在后台继续执行。
  2. 原型设计与可视化:对于创意性任务,Kun会要求制作多个变体原型,并通过“lavish”工具进行可视化预览,便于评估和反馈。
  3. 任务状态管理:为追踪众多项目的进展,Kun使用first-mate内置的“bearings”技能收集所有活跃任务的快照,并可通过“bearings-lavish”变体生成易读的报告。
  4. 指令控制:
    • 后续提示:输入提示后按Alt+Enter,指令将被排队,在当前任务组完成后执行。
    • 直接引导:按Enter键,指令会立即发送给first-mate执行。

总结

这套工作流的核心优势在于通过单一的协调智能体(first-mate)解耦了用户的注意力和具体的执行工作。用户可以专注于构思任务和下一步计划,而由first-mate根据规则和配额,自动派遣和管理多个专业模型并行处理具体工作,从而实现真正的多任务、高吞吐量作业。

Source: https://www.youtube.com/watch?v=MSbacZ99E14

相似文章

@shao__meng: 9集、230分钟 @jbhuang0604 系列视频「AI Training and Inference」把基座模型训练和推理基础讲清楚了,覆盖整个训推架构:单卡显存 → 千卡并行 → 便宜微调 → 推理加速 → 小模型蒸馏 → 推理 R…

X AI KOLs Timeline

博主分享 Jia-Bin Huang 制作的 9 集、230 分钟系列视频「AI Training and Inference」,系统覆盖基座模型训推架构:从 ZeRO/FSDP 显存优化、五维并行、LoRA 变体、投机解码、On-policy 蒸馏、GRPO 强化学习,到 AdamW/Muon 优化器及 LLM 服务。

@_zheergen: 在此之前遇到一位把整条量化流水线讲得很完整的老师。 我就问他,有没有一支视频能把「数据抓取 → 机器学习预测 → 组合优化 → 策略回测」真正串起来? 他向我展示了一个非常清晰的全栈框架:从环境配置、ARIMA 与 NeuralProph…

X AI KOLs Timeline

介绍一个关于Python量化交易全栈实操的视频教程,涵盖数据抓取、机器学习预测、组合优化和策略回测,并提及开源量化交易执行系统Kungfu。