challenges

一位开发者分享了基于Andrej Karpathy的想法构建LLM驱动维基的一个月经验，发现虽然搭建容易，但持续维护——如处理过期源、成本和集成——才是真正的挑战。

在AI辅助编程（vibe coding）中，制作demo级别产品的门槛已经很低，但构建稳定可靠的服务仍然面临巨大挑战，且这一门槛并未降低。

讨论了尽管在任务执行方面取得了进展，但阻止 AI agents 可靠处理现实任务的持续挑战，例如不断变化的网站和不一致的工作流程。

本文讨论了交互模型如何给AI推理引擎带来新挑战，重点介绍了vLLM项目的解决方案，该方案在Woosuk Kwon参与的播客中有所涉及。