哪些硬件升级级别感觉更有意义？

显然，更多的内存是好的，能提供更多上下文，支持更大的模型，但某些升级实际上并不能在运行不同或更好模型的能力上带来有意义的差异。例如，与升级到32+32相比，我目前并不认为从32+16跳到64+16是一个特别值得的升级，尽管如果我错了请纠正我。我想基于DDR4 + HBM2构建一台推理机，以补充我的主力电脑（32 GB DDR5 + 16GB GDDR7）。这样做的想法是，即使硬件较慢，但更实惠的硬件所带来的更大总容量可以让我运行更多样化的模型。如果牺牲的是绝对速度，你认为什么样的内存升级级别对于最大化模型访问是最合乎逻辑的？32+32？128+32？64+64？还是我完全问错了问题，只是暴露了自己的无知？无论怎样，我都希望得到你的意见。