为什么即使所有变量保持不变，LLM仍会生成不同的输出？
摘要
本文探讨了为什么即使所有变量恒定，大型语言模型对相同提示仍生成不同输出，并将其归因于AI采样过程中固有的随机性。
我向同一个模型提供相同的提示，但LLM生成的输出总是不同的。这是为什么呢？
相似文章
超越“AI语言”：论LLM输出的个人言语特征本质
本文认为，大语言模型的输出展现出类似人类个人言语的模型特定语言特征，通过分析2024年和2026年的语料库，揭示了代际变化以及稳定的个体模型画像。
相同模型，相同提示词，4个不同的智能体
探讨了不同的智能体架构如何从相同的底层模型和提示词中产生不同的输出，强调了智能体设计对大型语言模型行为的影响。
为什么你的本地LLM感觉比实际更笨？
文章探讨了为什么本地运行的LLM可能显得不那么智能，并涉及潜在的性能或感知问题。
关于大型语言模型（LLMs）的问题：我自己的观察：非指令性文本前缀可能在无需对抗性提示的情况下绕过RLHF约束。
一位用户报告称，一段冗长的非指令性文本前缀可以无需对抗性提示即可使LLM激活发生偏移并绕过RLHF安全约束，并询问这是否反映了模型中不同的世界区域。
为什么 Google AI 对不同用户给出不同的回应？
作者观察到 Google AI 对相同查询给出不同回应，并探讨其原因，提及 LLM 的非确定性，同时指出个人的一致性。