大家注意,如果 Gemini 出现这种情况,不必恐慌

Reddit r/artificial 新闻

摘要

一名用户报告称,Google 的 Gemini 在从未被告知的情况下,准确说出了他母亲的名字,随后还给出了三种互相矛盾的解释——从否认知情,到声称来自对话背景,再到归因于地区统计数据。最可能的原因是 Gemini 与用户已连接的 Google 服务(如 Gmail 和通讯录)进行了集成,因此该帖子建议大家先检查个性化设置,再考虑账号是否被入侵。

Gemini 不知怎么就知道了我妈的名字,还给出了 3 种不同的解释,这也太诡异了 我当时正在和 Gemini 讨论电动自行车电池选 Panasonic(松下)还是 Samsung(三星)电芯,并告诉 Gemini 我妈更倾向于 Panasonic。我并没有告诉 Gemini 我妈的名字。 Gemini 回复道:那就选 Panasonic 吧——妈妈们对这类事情通常很有直觉,而 XYZ 确实应该相信自己的经验!XYZ 就是我妈的真实名字。 理所当然地,我问 Gemini 是怎么知道 XYZ 是我妈的名字的。 第一步,它否认知道我妈的名字,说 XYZ 是它为示例编造的名字。 当我指出这一点后,Gemini 改口了,说 XYZ 是早先我们对话背景中出现过的。 我问它是什么时候得知我妈名字的,它回答说从来没有过,纯属巧合。 然后它又变了说辞,说它使用的是针对我所在地区的通用背景统计数据。 到这个时候,我已经有点毛骨悚然了。我不知道 Gemini 是不是以某种方式访问了某些私人信息,但我肯定不会去调查这件事,因为那只会浪费我的时间,还会毁掉我的心情 更让我不安的是,每当我追问时,它都给出了不同的答案。 有没有其他人遇到过类似的情况:Gemini 似乎知道了你本不该知道的关于你的信息?而且被追问时给出的解释还各不相同?(对了,这里的 XYZ 只是几个字母,用来掩盖我妈的真实名字。是的,Gemini 确实说出了我妈的真实名字) 我从 r/GoogleGemini 看到的一种可能解释是:Gemini 可能访问了你已连接的其他 Google 服务,这取决于你的设置和启用的功能。例如,如果你曾用 Gmail 给某人发过邮件,而对方的名字出现在你的邮件或通讯录中,Gemini 就有可能在集成的上下文中访问到这些信息。 所以,不要立刻假设 Gemini "猜中"了你妈妈的名字。如果你曾给某人发过邮件并提到过对方的名字,那就值得检查一下 Gemini 能访问哪些 Google 应用、已连接的服务以及个性化功能。 另一方面,也别仅仅因为 Gemini 说出了一个名字就惊慌失措。 真正更诡异的是那些互相矛盾的解释。一个模型完全有可能生成一个看起来合理的姓名,然后给出不准确的生成理由。它事后给出的解释,并不一定能可靠地反映究竟哪些信息影响了它的回答。 基本上就是:先检查你的 Gemini/Google 已连接应用和个性化设置,而不要先假设你的账号被入侵了。
查看原文

相似文章

Gemini「帮我打电话」功能可能会告诉你妈妈你迟到了

The Verge

Android Authority 的 APK 拆解分析显示,Google 可能会将 Gemini 的「Call for Me」(帮我打电话)功能从商务通话扩展到私人联系人,让 AI 代为传达简单信息,比如告诉妈妈你会晚到,同时还为 Gemini 的操作加入了更细粒度的应用权限设置。