云端聊天机器人的系统提示会让它们变笨吗？

Reddit r/LocalLLaMA 新闻
cloud-chatbots system-prompts model-comparison local-models ai-behavior opinion

摘要

作者推测，像ChatGPT和Claude这样的云端聊天机器人之所以显得不如本地开源模型聪明，是因为系统提示强加了人格设定，并想知道使用原始API是否可以缓解这一问题。

当我在与ChatGPT或Claude讨论抽象概念时，我常常惊讶于它们似乎有点笨……好像它们并没有从额外的参数中受益于像Kimi或GLM这样的顶级开源模型。事实上，它们往往看起来比我本地运行的这些开源模型更愚蠢，因为它们急于下结论，试图过度简化概念，并产生更多“不是X而是Y”之类的陈词滥调。我猜测原因在于：系统提示试图赋予模型“人格”以保持用户参与度，从而弱智化了模型。这在4o时代最为严重，但感觉它们现在仍然有些讨好用户，远超普通本地模型通常的表现。有没有人发现云端模型通过原始API会显得更聪明？或者API也会附加系统提示？还是说这是我的错觉？
查看原文

相似文章

asgeirtj/system_prompts_leaks

GitHub Trending (daily)

一个 GitHub 仓库，记录了主要 AI 聊天机器人（如 Claude、ChatGPT 和 Gemini）泄露的系统提示，并追踪不同版本的变化。