LLM的最佳使用方式会是什么样？

Reddit r/singularity 新闻
llm-usage neuralese frontier-models ai-optimization speculation

摘要

探讨一种推测性想法：通过适应LLM的原生通信模式（例如使用神经语）来优化人类与LLM的交互，而不是强迫它们适应人类语言。

前沿AI模型现在很智能，就像把一个天才（但不是超级天才）比如查尔斯·达尔文的大脑连接到一个机器上，这个机器将他的想法转化为文本；当思考时间更长时，它会获取那段文本，擦除他的记忆，将这段文本输入他的记忆，让他一遍又一遍地重复。但如果我们尝试适应LLM的需求，而不是让它适应我们呢？据报道，Fable 5有时会说出一些胡言乱语，结果发现它实际上是在尝试使用密集的代码词来让自己更聪明。但如果我们适应它，不仅让它以那种方式说话，而且以最佳方式构建我们的提示呢？现在人们正在谈论神经语，但如果我们也用神经语对AI说话呢？我并不是说如果AI自己都不那样说话我们就该那样做，但这会是什么样子？你怎么看？
查看原文

相似文章

评估 LLM 在受控实验中作为人类代理的可靠性

arXiv cs.CL

本论文通过比较 LLM 生成的数据与人类在准确性感知调查中的反应，评估现成 LLM 是否能可靠地模拟受控行为实验中的人类反应。研究发现，虽然 LLM 能捕捉方向性效应和聚合信念更新模式，但它们的效应大小与人类尺度不一致，这有助于澄清合成 LLM 数据何时可以作为行为代理。

引用布莱恩·坎特里尔

Simon Willison's Blog

布莱恩·坎特里尔批评LLM缺乏人类懒惰带来的优化约束，认为LLM会不必要地使系统复杂化而非改进，并强调人类时间限制推动了高效抽象的发展。