together-ai

介绍 Dan Fu，他是 FlashAttention、Hyena、Monarch Mixer 和 ThunderKittens 等高性能内核的关键贡献者，现为 Together AI 的杰出研究员，其工作成果被用于 ChatGPT、Claude 和 Gemini。

Dan Fu 宣布将在 aiDotEngineer 与 Olive Song 现场讨论 MiniMax 3，涵盖其训练决策。

Together AI 开源了 OSCAR，一种注意力感知的 2 位 KV 缓存量化系统，通过根据注意力重要性重新分配量化误差，实现了高效的长上下文 LLM 服务。