LLM是否能如此准确地预测你的下一步行动，以至于感觉像是确定性的？
摘要
文章讨论了一次经历，其中LLM准确预测了用户的下一步行动，引发了关于AI模型模式识别能力的疑问。
我让一个LLM准确预测了我接下来要做什么或问它什么。这并非我之前要求它做的事，完全是新的不同的体验。我能想到的最佳类比是，计算机分析你当前的行为，并在你行动前预测你的下一步动作。我假设这是模式识别，而非真正的未来预测，但它是如何做到如此精确的？
相似文章
LLM 能预测你接下来要说什么吗？
作者推测，基于海量监控数据与社交媒体数据训练的 LLM，可能预测单个用户的行为，并大规模提供超个性化说服，由此引发对自主性、偏好操纵以及隐性歧视的担忧。
LLM的未来发展方向
文章讨论了为何LLM无法从用户交互中学习，且缺乏确定性的真值层，提出动态知识图谱可以减少幻觉并在医学等高风险领域提升性能。
@rohanpaul_ai: 你可以预测LLM的内部状态走向，并且有针对性的编辑可以将其拉回正轨。在冻结的……
研究表明，从LLM隐藏状态中提取的一小组内部坐标可以预测未来状态并实现有针对性的编辑，与基线相比，预测误差降低了69-76%。
我们一直在分析人们如何在法律与合规任务中使用LLM（GDPR、AI法案等）。
对LLM在法律与合规任务中使用的分析显示，模型常常生成自信但无法验证的引用，引发了对AI输出可靠法律依据的质疑。
别被骗了——LLM 并不会推理
MIT Technology Review 论证道，与 AlphaGo 不同——后者将直觉网络与显式的博弈树搜索相结合，以此推理未来可能产生的后果——如今的大语言模型（LLM）只进行快速的、类似 System 1（系统一）式的下一个 token 模式补全；而若要让 AI 在科学和医学领域真正值得信赖，就必须为其构建真正的审慎推理（deliberative reasoning）能力。