软件工程师：说正经的，你们真的从LLMs中有所收获吗？

六个月来，我一直尝试用 Pi 和一些 30-120B 的模型（Qwens、Nemotrons、Leguna 等）进行智能编码。我并不贪心，只使用合理的量化，从不量化 KV 缓存，并将会话长度控制在 90k 以内。但结果总是令人失望。无论我如何约束模型，或者用整页的 Markdown 指令轰炸它，智能体带来的技术债务总是多于其价值。最终我花在清理烂摊子上的时间，比一开始全部手动完成还要多。我的意思是，这些模型简直不知羞耻：它们会糟糕地重复自己；如果它们对另一种方法论更顺手，就会完全放弃你指定的方法论（例如函数式编程 vs 面向对象）；在上下文超过 50k 深度时公然忽略指令；写出很容易通过的浅显测试，只是为了自我安慰；几乎从不花一点时间去思考在堆积代码之前是否可以先重构混乱的代码。它们总是倾向于写出大量代码，以至于我常常在心脏病发作前按下 Ctrl+C！一个有真材实料的初级工程师也不会这么混乱。到头来，人们在架构设计和引导上能做的有限，否则就会变成微管理的地狱。那么，对于那些因智能编码而看到生产力提升的高级工程师（正如我经常听到的那样），你们究竟是怎么做到的？谢谢！ 编辑：抱歉。我指的是本地模型。我以为这是 LocalLLaMA 子版块。