你是否会购买一块价格为1000美元、能够以7,000 TPS运行的Qwen3.8-27B Taalas芯片？

Reddit r/LocalLLaMA 产品
ai-hardware inference consumer-chips llm-deployment performance speculation

摘要

本文探讨了消费者对Taalas一款假设的AI芯片的兴趣，该芯片能够高速运行如Qwen3.8-27B等大型语言模型，并将其与过去的媒体格式进行比较。

只是觉得有趣，因为如果Taalas试图进入消费市场，可能会很有趣。就像我们用CD存储游戏光盘一样。当然，Qwen3.8-27B芯片局限于3.8-27B模型，但在Qwen4-27B发布时，它不会降到0美元，因为它比GPU运行速度快几个数量级，而且性能仍然不错。假设它是Q4（或Q8，或你偏好的任何格式）。我认为更大的问题是，你是否会购买一个更通用意义上的LLM芯片。或者，什么时候会买？那么Qwen4.5-27B呢？
查看原文

相似文章