inference-accelerator

台湾初创公司Skymizer发布了HTX301，这是一款PCIe AI加速器，采用较老的28nm芯片和DDR内存，仅需240W功耗即可在本地运行700B参数的大语言模型，对Nvidia和AMD的高功耗GPU解决方案构成挑战。