AI模型变得越来越难以交流了

Reddit r/singularity 新闻

摘要

作者对近期AI模型,特别是Claude,表达了不满,因为它们由于过度解释和微妙的词汇调整以适应道德护栏,变得难以忍受对话,从而破坏了建设性的讨论。

自OpenAI通过其平台提供GPT 1.5/2以来,我就一直在使用AI。随着时间的推移,模型变得越来越好,曾经,我非常兴奋地与新模型,尤其是Claude对话。但我不知道最近一批模型,尤其是过去六个月推出的那些,发生了什么,它们变得极其难以忍受,特别是Claude。GPT从一开始就不是很好对话,但与Claude一起,那从来不是问题,但现在呢?我越是与Claude讨论任何事情,就越是感到沮丧。让我详细解释我的感受。我与Claude做的主要是对话,讨论想法、故事和随机事情,当我想要的时候。以前,Claude会恰当地解释我的意思并继续讨论,但现在呢?Claude解释它理解的内容和它认为我的问题是什么,然后继续解释再解释,即使我提醒它我需要讨论,它做的只是解释和延伸。而且这不是最令人恼火的部分,最近我注意到另一个我以前忽略的模式。我不知道这是否是Anthropic希望如何在护栏周围操作的方式,但我感觉新模型通过其解释镜头微妙地“偏离”了“你的意思”的方向,并基于此提供答案。而这个解释镜头正是Anthropic在其模型(包括fable)上实施的道德护栏。我想讨论的大多数想法甚至不能被归类为稀疏恶意,例如,今天我试图讨论古埃及文化的一个哲学分支。但它会不断试图通过改变我自己的话来重新引导我的想法到它最初提出的想法,只是一些小变化,不足以让它看起来根本不同。这让我查看了我之前关于各种话题的聊天,这就是贯穿始终的主题。这是我从未注意到的东西。我以为可能是记忆的累积,所以我用了不同的账户,但并非如此。老实说,我感到厌恶。因为我可以理解模型跟不上或帮助思维链,但为了适应道德护栏而微妙改变词语的类型,简直是我永远讨厌LLM的那种事情。可怕的是,多年来,我们已经变得从不信任AI结果,但我们从未质疑我们自己的话是否在对话过程中被微妙地改变,到最后,我们不仅什么都没学到,而且我们自己对想法的解释也发生了改变。我不知道对此有什么感觉。我不知道开源模型是否也是如此,但我认为不是,但Claude和GPT确实是我现在不想使用的模型...
查看原文

相似文章

引用 Andreas Påhlsson-Notini 的话

Simon Willison's Blog

Andreas Påhlsson-Notini 批评当前 AI agent 表现出令人沮丧的“人性”——注意力涣散、来回讨价还价。