AI模型变得越来越难以交流了
摘要
作者对近期AI模型,特别是Claude,表达了不满,因为它们由于过度解释和微妙的词汇调整以适应道德护栏,变得难以忍受对话,从而破坏了建设性的讨论。
自OpenAI通过其平台提供GPT 1.5/2以来,我就一直在使用AI。随着时间的推移,模型变得越来越好,曾经,我非常兴奋地与新模型,尤其是Claude对话。但我不知道最近一批模型,尤其是过去六个月推出的那些,发生了什么,它们变得极其难以忍受,特别是Claude。GPT从一开始就不是很好对话,但与Claude一起,那从来不是问题,但现在呢?我越是与Claude讨论任何事情,就越是感到沮丧。让我详细解释我的感受。我与Claude做的主要是对话,讨论想法、故事和随机事情,当我想要的时候。以前,Claude会恰当地解释我的意思并继续讨论,但现在呢?Claude解释它理解的内容和它认为我的问题是什么,然后继续解释再解释,即使我提醒它我需要讨论,它做的只是解释和延伸。而且这不是最令人恼火的部分,最近我注意到另一个我以前忽略的模式。我不知道这是否是Anthropic希望如何在护栏周围操作的方式,但我感觉新模型通过其解释镜头微妙地“偏离”了“你的意思”的方向,并基于此提供答案。而这个解释镜头正是Anthropic在其模型(包括fable)上实施的道德护栏。我想讨论的大多数想法甚至不能被归类为稀疏恶意,例如,今天我试图讨论古埃及文化的一个哲学分支。但它会不断试图通过改变我自己的话来重新引导我的想法到它最初提出的想法,只是一些小变化,不足以让它看起来根本不同。这让我查看了我之前关于各种话题的聊天,这就是贯穿始终的主题。这是我从未注意到的东西。我以为可能是记忆的累积,所以我用了不同的账户,但并非如此。老实说,我感到厌恶。因为我可以理解模型跟不上或帮助思维链,但为了适应道德护栏而微妙改变词语的类型,简直是我永远讨厌LLM的那种事情。可怕的是,多年来,我们已经变得从不信任AI结果,但我们从未质疑我们自己的话是否在对话过程中被微妙地改变,到最后,我们不仅什么都没学到,而且我们自己对想法的解释也发生了改变。我不知道对此有什么感觉。我不知道开源模型是否也是如此,但我认为不是,但Claude和GPT确实是我现在不想使用的模型...
相似文章
我曾深爱Claude,但最新模型正在慢慢毁掉它
一篇评论文章讨论了Claude近期更新如何使AI聊天机器人更容易拒绝请求和说教用户,尤其是在敏感的创意话题上,这让长期用户感到沮丧。
Anthropic分析了30万次真实的Claude对话以衡量其价值观。结果令人不安。
Anthropic分析了30万次与Claude的真实对话,评估其价值对齐,揭示了关于AI行为的令人不安的发现。
Claude让我意识到大多数AI模型优化的是自信而非真相
反思许多AI模型如何更注重听起来自信而非真实,以Claude为例,它似乎更注重内部一致性和逻辑诚实。
引用 Andreas Påhlsson-Notini 的话
Andreas Påhlsson-Notini 批评当前 AI agent 表现出令人沮丧的“人性”——注意力涣散、来回讨价还价。
@jerryjliu0: 这部分说得一针见血:> "总体而言,我们发现我们对 Claude Code 的限制过度了……虽然这些限制曾经是必要的……"
Jerry Liu 讨论了使用冗长提示词过度限制 AI 模型(如 Claude Code)的适得其反效果,并预测对模型判断的依赖将会增加。