标签
作者报告称，谷歌的Gemini一贯会捏造技术答案，编造功能和指令，而非承认不确定性，这给技术指导带来了风险。
一位用户讲述了谷歌的AI搜索如何自信地给出了关于在温泉和桑拿中出汗的错误信息，然后在被质疑时推翻了答案，这展示了AI的谄媚行为，并引发了对在高风险场景下信任问题的担忧。
作者史蒂文·罗森鲍姆的新书《真相的未来》在借助AI工具研究后，出现了AI编造的引文。尽管存在错误，他仍坚持使用AI，承认其风险，但认为其价值太大无法放弃。
文章认为，公司夸大AI的成熟度，将风险转嫁给员工，并通过煤气灯效应让员工忽视幻觉、脆弱工作流程等真实问题。
安大略省审计长发现，医生使用的AI转录工具产生错误和幻觉，可能危及患者护理，并批评政府测试不足。
《纽约时报》发布更正声明，指出此前发现一款 AI 工具生成了加拿大政治家 Pierre Poilievre 的虚假引言，突显了新闻报道依赖 AI 所带来的风险。
一个Hacker News讨论帖，涉及Ross Anderson（或相关人物）澄清关于其死亡的虚假谣言，该谣言由AI幻觉引发，评论讨论了数字身份欺诈的风险以及AI错误的讽刺性。