为什么不能训练LLMs用一种优化的AI语言而非英语来思考？
摘要
一个推测性的讨论，质疑为什么LLMs没有被训练使用优化的内部语言而非自然语言来思考，以及这是否能提高效率。
除了安全考虑之外，为什么之前没有开发出用自己优化的“外星”语言思考的AI模型？这样难道不会让AI更自由、更高效地思考吗？（这大概是个愚蠢的问题）
相似文章
LLM的最佳使用方式会是什么样？
探讨一种推测性想法：通过适应LLM的原生通信模式（例如使用神经语）来优化人类与LLM的交互，而不是强迫它们适应人类语言。
迈向超越英语中心化开发的大语言模型
本文证明了大语言模型严重偏向英语，并表明持续预训练在将模型适配到其他语言（尤其是文化理解方面）时，并不比从头训练更具成本优势。
大语言模型何时进行推理？基于熵相变的动力系统视角
本文探讨了思维链推理在何时对大语言模型有益，表明早期熵动力学能够可靠地指示推理效用，并介绍了EDRM，这是一个轻量级、无需训练的框架，可自适应选择推理策略，在保持或提升准确率的同时显著节省token。
LLMs与记忆限制——请审阅我的想法
本文分析了LLM记忆限制，认为真正的个人AI需要单租户权重定制，这与当前多租户云经济模式相冲突，并指出开源权重模型可能是进步的关键来源。
引用布莱恩·坎特里尔
布莱恩·坎特里尔批评LLM缺乏人类懒惰带来的优化约束，认为LLM会不必要地使系统复杂化而非改进，并强调人类时间限制推动了高效抽象的发展。