为什么 Google AI 对不同用户给出不同的回应?
摘要
作者观察到 Google AI 对相同查询给出不同回应,并探讨其原因,提及 LLM 的非确定性,同时指出个人的一致性。
我看到这篇帖子,并注意到当我搜索‘worms吃什么’时,无论我重复问多少次、使用不同浏览器、隐身模式等,都会得到这个正常回应。但帖子中其他人展示,出于某种原因,他们得到了这个关于罗马的奇怪、不同的答案。我对 LLM 的工作原理有粗略了解,即通过预测下一个最可能的 token 或其他什么,但我没意识到不同的人用完全相同的措辞提问可能会得到不同的回应。当我寻找解释时,其他人提到 LLM 是非确定性的,但为什么我会一直得到相同的答案呢?
相似文章
我在谷歌搜索中改了一个词,得到了两个完全不同的AI回复
一位用户发现,在谷歌搜索查询中更改一个词会产生两个完全不同的AI生成回复,凸显了谷歌AI概览中的不一致性。
为什么即使所有变量保持不变,LLM仍会生成不同的输出?
本文探讨了为什么即使所有变量恒定,大型语言模型对相同提示仍生成不同输出,并将其归因于AI采样过程中固有的随机性。
Google 是否真的相信 LLM 的规模扩展不会通向 AGI?
本文推测,Google 在前沿 AI 领域落后于 OpenAI 和 Anthropic,究竟是执行不力,还是对「通过规模扩展实现 AGI」这一假说持有根本性的质疑。作者怀疑,Google 是否认为 LLM 终究是一场泡沫,而 AGI 的实现需要一种截然不同的路径。
来自谷歌AI的一个有趣的“诡异结论”(我在评论中附有观察)
一篇Reddit帖子讨论了谷歌AI得出了一个意外或者说“诡异”的结论,作者在评论中补充了个人的观察。
我给谷歌AI做了一个简单测试,它连续三次在不同浏览器中给出了错误答案,尽管它说会记录正确答案并记住以供将来使用。
一位用户报告称,谷歌AI反复给出错误答案(关于“有史以来最薄的笔记本电脑”),即使在承认错误后也未能从中学习。