taalas

Emad Mostaque 展示了 Taalas 以每秒 14,000 tokens 的速度生成，比 ChatGPT 的 50-150 tokens/秒快得多，如在 The Peter McCormack Show 上展示的那样。

一篇关于AI推理硬件的分析，比较了Taalas和Groq将模型权重蚀刻到硅片上的方法，并注意到英伟达和AMD近期进行的投资。

AMD已达成最终协议，收购总部位于多伦多的AI芯片初创公司Taalas，该公司专注于将AI模型硬连线到定制硅上，以实现高效推理。该交易旨在以差异化的推理性能和效率强化AMD的AI产品组合。

AMD 收购 AI 芯片初创公司 Taalas，后者将模型权重直接蚀刻进硅片，有望带来数量级的推理性能提升。此举被视为 AMD 挑战 Nvidia 在 AI 硬件领域主导地位的举措。