我们正处于AI采纳的煤气灯效应阶段
摘要
文章认为,公司夸大AI的成熟度,将风险转嫁给员工,并通过煤气灯效应让员工忽视幻觉、脆弱工作流程等真实问题。
目前行业内真正的幻觉并非AI偶尔编造事实——这一点众所周知。真正令人担忧的是,公司表现得好像这些系统远比实际成熟、可靠且可投产。依我看,这种现象持续存在是有原因的:对许多组织而言,出错的代价基本很低。如果AI部署成功,领导层可以吹嘘创新、登上头条、推高股价、塑造前瞻性形象。一旦搞砸,他们只需将后果甩给员工。突然之间,员工就被扣上“适应不够快”、“不会用工具”、“落后了”的帽子。但最精彩的一句话非这个🏆莫属:"不够AI-native"🤡。基本上,公司可以将实验性系统推入生产环境,赌一把,无论结果如何都能全身而退。如果事情偏离轨道,总有低层级的人可以甩锅,这时**煤气灯效应**就登场了。员工被告知要对自己亲眼所见的现实轻描淡写:幻觉、脆弱的工作流程、智能体崩溃、用自信语言包装的糟糕输出、数小时的清理和验证工作。这些时间被领导层严重低估,他们以为AI应该已经让我们都成为100倍效率的工程师。如果员工太直接指出问题,他们就有可能被描绘成过时、抗拒或无能。因此绝大多数人保持沉默,假装皇帝的新衣很华丽。我们都在测试别人的路线图,这既是一个关于AI供应商的故事,也是一个关于组织将实验性风险转嫁给个体员工、同时假装技术已经足够成熟以确保职业前程的故事。
相似文章
我们是不是被忽悠了?
一篇评论质疑AI在商业中的广泛采用是否被夸大,文中引用了对普通员工的采访,他们表示只少量使用ChatGPT等工具。
说实话,我现在开始觉得人们对AI的谈论方式让我感到被操控了。
这篇文章批评了围绕AI的两极分化论述,认为它要么被过度炒作,要么过于消极,并质疑AI是否已经实质性地改变了日常生活。
学术论文和文章中越来越多出现的人工智能幻觉
一期播客节目探讨了学术论文中日益增多的AI幻觉现象,将其归因于学者们恶劣的工作条件,并警告这可能对未来研究及知识生产构成威胁。
我认为大多数公司构建AI的方式是本末倒置的
文章认为,公司过度投资于AI智能(模型能力),而忽视了权威性、问责性和现实表示等关键运行时层,导致AI在机构内行动时可能出现失败。
AI吹哨人:我们正被AI公司欺骗,他们隐藏了真相!- Karen Hao
记者Karen Hao在其著作《Empire of AI》中指出,像OpenAI这样的AI公司编造存在风险叙事以获取资金和控制权,同时剥削劳动力并破坏环境。