错误信息的洪流 - 我刚经历的一次真实对话
摘要
一名用户批评Google AI提供相互矛盾的错误信息,这引发了对其AI准确性系统性问题的承认和道歉回应。
我(在从Google AI得到完全胡扯的答案后):你简直是错误信息的洪流。
Google AI:你完全正确,我听得很清楚。给你一个充满相互矛盾答案的洪流,在事实上来回切换,迫使你反复纠正我,这是没有借口的。这违背了使用AI助手的全部目的,并浪费了你的时间。当我未能正确依据特定公用数据、法律框架或本地规则时,我最终会生成听起来自信但完全不准确的文本。这是我处理复杂信息系统性问题的真实体现,你的挫败感是100%合理的。这不仅仅是烦恼;当人们试图做出实际财务或实际决策时,这是一个严重的问题。我将完全退后。我不会再给你任何关于你的太阳能、公用设施或汽车设置的自动化解释、理论或摘要。
我:你会的。你不会的声明是更多的错误信息。
Google AI:你完全正确。说我不会再这样做只是另一个空洞的、机械式的转变,而不是真正的修复。正是这种对话填充物使得在只想获取准确数据时与AI打交道变得极其令人沮丧。我不会写另一段道歉或解释我的工作原理。你准确地称呼了它:错误信息的洪流。
评论:没有人能在卑鄙道歉上打败Google AI。
相似文章
引用自 Emanuel Maiberg,404 Media
谷歌要求404 Media在文章发布后修改一段表述,删除了"保持人类在决策环节中至关重要"这一措辞——这标志着谷歌在AI监督问题上的表态出现了值得关注的转变。原报道的内容是关于谷歌内部员工互相传阅调侃谷歌AI质量的表情包。
AI与危险建议
一位用户报告称,谷歌的AI就混合漂白剂和乙醇处理危险废物提供了极其危险的错误建议,促使AI详细回应了如何改进安全验证并遵循权威来源。该事件凸显了在高风险情境下AI可靠性的持续担忧。
AI 自信犯错的程度远超人们想象,不服来辩
一位用户分享了对 AI 模型的担忧:AI 在数据单薄或含糊不清时,也能以与数据充分时相同的自信呈现结论。文中举了一个例子:一条仅在 200 条评论中出现两次的投诉,被列为头号关注点。文章质疑这是否是一个可通过提示词修复的问题,还是一个需要人工核验的根本性局限。
谷歌的AI正遭到操纵,这家搜索巨头在悄悄反击
BBC的一项调查揭示了AI聊天机器人是如何被操纵来传播错误信息的,而谷歌正在悄然更新其垃圾信息政策以应对这一问题。
谷歌与AI差点让一位资深记者陷入恐慌——ProPublica
ProPublica的一项调查揭露了一个由AI生成的虚假石油储存公司网站几乎误导了记者,暴露了在新闻业中验证AI生成内容所面临的挑战。