标签
本文认为，现代 AI 本质上是由概率和矩阵乘法驱动的高级自动补全系统，批评业界将语言流畅性误认为是真正的推理能力或智能。
Matt Pocock argues that effective AI-assisted development requires respecting LLM limitations, specifically the 'intelligence zone' and amnesiac context windows, advocating for small tasks and clear system prompts over vague specifications.
作者对行业依赖提示词工程和扩展规模来解决基于 Transformer 的大语言模型（LLM）逻辑推理缺陷表示沮丧，认为这些概率模型从根本上缺乏确定性逻辑的架构。
本文讨论了AI基准测试高分与实际真实表现之间日益扩大的差距，重点强调了诸如一致性、延迟和上下文处理等问题。
文章讨论了AI代理从沙盒测试迁移到生产环境时可靠性下降的问题，指出编排层包含的错误往往比模型本身更多。
一位用户提议使用扩散模型生成或编辑抽象语法树（AST），以确保代码生成的语法正确性，并与当前LLM基于token的限制形成对比。
哥伦比亚大学计算机系教授 Vishal Misra 认为，LLM 只能在已习得的贝叶斯流形内插值，无法构建全新概念图谱，因此无法产生真正原创的科学突破。