@PyTorch: 如何从每一美元的人工智能投入中获得更多有用的工作——而不仅仅是更多的令牌？本周三上午11:50在@AMD #Advancing…

X AI KOLs Timeline 事件
pytorch inference open-source ai-economics vllm sglang amd

摘要

PyTorch Foundation CTO Matt White将在AMD的AdvancingAI活动上发表演讲，探讨如何使用vLLM和SGLang等开源工具优化AI推理经济学，倡导使用规模合适的模型和智能路由，以改善每美元智能。

如何从每一美元的人工智能投入中获得更多有用的工作——而不仅仅是更多的令牌？本周三上午11:50在@AMD #AdvancingAI，PyTorch Foundation CTO @matthew_d_white将探讨开源、@vllm_project和@radixark的@sgl_project如何重塑推理经济学。 在“加速开源AI：恰到好处的智能”演讲中，Matt将概述一种实用的方法，以替代为每项任务都使用前沿模型： → 分解工作流程 → 选择规模合适的模型 → 智能路由和缓存 → 仅在必要时升级 → 衡量每项成功完成任务的成本 目标是实现更好的每美元智能（Dollar per Intelligence）：每花一美元就能获得更正确、更相关的业务成果，同时将失败、重试和审查纳入计算。 Matt将在AI训练与推理轨道上开启一系列演讲，之后是@simon_mo_（@inferact联合创始人兼首席执行官，vLLM首席贡献者）和@ying11231（RadixArk联合创始人兼首席执行官，SGLang共同创建者）。 Moscone West，旧金山 7月22日，星期三 上午11:50 PDT 探索该轨道：
查看原文
查看缓存全文

缓存时间: 2026/07/21 18:49

如何从每一笔AI支出中获得更多有效工作——而不仅仅是更多token？本周三上午11:50，在@AMD #AdvancingAI活动上，PyTorch Foundation CTO @matthew_d_white 将探讨开源、@vllm_project 和 @radixark 的 @sgl_project 如何重塑推理经济学。

在“加速开源AI：恰到好处的智能”演讲中，Matt将提出一个实用方案，替代对所有任务都使用前沿模型的做法： → 分解工作流 → 选择合适大小的模型 → 智能路由与缓存 → 仅在必要时升级 → 衡量每项成功完成任务的成本

目标是实现更优的“每美元智能”：每一美元支出都能带来更多正确且与业务相关的结果，并将失败、重试和审核环节的成本也纳入计算。

Matt将率先开启AI训练与推理专题的一系列演讲，随后是 @simon_mo_（@inferact 联合创始人兼CEO、vLLM主要贡献者）和 @ying11231（RadixArk联合创始人兼CEO、SGLang共同创建者）。

旧金山Moscone West 7月22日周三 太平洋夏令时上午11:50

探索该专题：

相似文章