百万颗人工智能卫星看似不可避免,瓶颈从来都不在算力

Reddit r/singularity 新闻

摘要

文章认为,人工智能真正的瓶颈并非算力,而是多步长任务中的软件可靠性。即使将数据中心部署在轨道上,也无法解决智能体漂移和故障检测等根本性问题。

关于用一百万颗卫星在轨道上提供人工智能计算的构想,听起来就像是奇点即将来临的渲染图。在轨道上堆叠足够的芯片,智能就会自然涌现。但我不认为事情是这样运作的。我们不断地用硬件去解决问题,而包裹模型的那层软件循环仍然非常脆弱。实际上,今天限制智能体工作的关键不是每秒浮点运算次数,而是多步长任务中的可靠性。智能体仍然会漂移、中途丢失线索,并且会在输出看起来正确但实际错误时报告成功。你可以给一个不稳定的循环配上轨道上所有的算力,结果只是更快、更昂贵地失败。真正的进展发生在看似枯燥的编排层——规划、执行、检查的循环,它防止长任务崩溃。我在诸如 Verdent 这样的工具中看到了这一点,它依赖于明确的检查,而不是默认相信更大的模型是正确的,但这种模式超越任何一个工具。那才是真正不被重视的瓶颈,没有卫星能解决它。也许轨道数据中心在延迟或主权方面有其合理性,我不是在否定硬件。我只是认为“算力是天花板”只是一个故事,而真正的天花板仍然是无法判断自己是否出错的软件。
查看原文

相似文章

AI瓶颈已经转移,大多数人还没有跟上

Reddit r/singularity

AI瓶颈已经从能力转向信任和操作可靠性,因为工具现在将手动编排抽象为配置。作者观察到,构建代理比以往任何时候都更容易,但在生产环境中保持可靠性和信任仍然是更难的挑战。

Open ai

Reddit r/ArtificialInteligence

文章讨论了行业共识:人工智能正变得极其强大,但在高风险任务上的可靠性仍是一个未解决的工程问题。强调当前系统优化的是合理性而非确定性真理,前进方向是分层验证系统而非单一完美模型。