AI训练能否像比特币挖矿那样去中心化？[D]
摘要
本文探讨了AI训练能否像比特币挖矿那样去中心化，参与者贡献GPU资源训练开源模型以换取代币，并引发了关于验证、虚假梯度和效率等问题的讨论。
我一直在思考，比特币背后的基本概念是否可以应用于AI训练。在比特币中，矿工执行工作量证明，并通过贡献计算资源来保护网络并获得奖励。实际的计算本身在网络之外并不特别有用，但它创建了一个去中心化的系统。如果类似的激励结构可以用于训练大型语言模型呢？矿工不再解决哈希难题，而是参与者贡献GPU资源来训练一个开源AI模型。作为回报，他们将根据贡献获得代币或奖励。一些立即想到的问题：1. 网络如何验证参与者确实执行了有用的训练工作？2. 如何防止人们提交虚假或有毒的梯度？3. 模型改进能否被客观衡量以确定奖励？4. 这比在集中式数据中心训练模型更高效吗？5. 去中心化网络最终能否与大型AI公司竞争？我知道已经有一些去中心化的AI和计算项目，但我特别感兴趣的是是否存在一种真正的“训练证明”机制，其中奖励直接与改进模型相关，而不仅仅是出租计算资源。我很好奇那些了解分布式系统、机器学习或加密经济学的人的想法。这是根本不可能，还是存在一种可行的架构可以实现它？
相似文章
联合所有GPU来训练一个社区模型
关于从社区汇集GPU以训练大规模AI模型的讨论，质疑其可行性以及现有项目，尽管存在已知瓶颈如延迟和权重中毒。
我认为AI训练比人们想象的要容易得多
作者认为，由于廉价的GPU租赁和AI驱动的工具，AI训练如今已经广泛可及，但许多人盲目使用未经验证的低质量数据，导致结果不佳和资源浪费。
Show HN：欧洲能否利用自有算力训练前沿AI模型？
Hacker News上的一场讨论探讨了欧洲能否利用自有算力训练前沿AI模型，并凸显了该地区在AI主权方面的挑战。
为什么AI训练对普通用户仍然如此不友好？
一位用户质疑为何AI训练工作流仍然以工程师为中心，对初学者来说困难重重，并建议需要更友好的工具来自动处理GPU选择、计费限制和部署。
当任何人都能训练AI模型时会发生什么？
探讨使AI模型训练对所有人都可访问所带来的社会和技术影响。