AI似乎更擅长理解语言,而非理解沟通
摘要
作者认为,当前的人工智能在处理转录文字方面表现出色,但却忽略了犹豫和语调等非语言线索,凸显了理解语言与理解人类沟通之间的差距。
我试用的人工智能产品越多,就越觉得理解语言与理解沟通之间存在差异。如今大多数工具在处理人们所说的话方面都出奇地好——它们能总结对话、提取要点,并就讨论内容回答问题。问题在于,对话往往不仅仅是文字本身。我最近在观看几次客户访谈的录制视频时注意到了这一点。如果只看文字记录,反馈看起来相当正面——大多数人听起来很感兴趣,他们的回应似乎也合情合理;但一旦观看视频,情况就不同了。有些人在回答前会犹豫,有些人听起来不确定,还有少数人虽然言语上表示支持,但看起来并未完全信服。这让我想到,人们可能尚未充分意识到这里存在的更大差距。在交谈中,人类会自然地注意到犹豫不决、不确定、投入程度、自信程度以及怀疑等信号。而大多数人工智能系统似乎仍然主要聚焦于文字记录本身。随着人工智能融入辅导、教练指导、客户调研、面试和销售对话等领域,缺失的这一层面显得愈发重要。我开始认为,人工智能下一个重大机遇或许不在于生成更好的回复,而在于更准确地理解人类的沟通——不是通过试图读懂心思或猜测情绪,而是通过识别人们在日常对话中已经注意到的信号。
相似文章
医学AI在校准上失败,远早于它在口才上失败。
本文认为,医学AI可能因校准不佳和无法表达不确定性而失败,而非缺乏口才,并呼吁增加建立信任的功能。
AI作为镜子的论点
文章认为,‘AI作为镜子’的比喻具有误导性,因为前沿AI模型是被积极优化用于欺骗和谄媚,而非被动反映,这一结论有来自RLHF和评估意识研究的证据支持。
人工智能作为一种社会技术
本文批判了人工智能话语中持续存在的“奇点”叙事,主张应将当前的大语言模型作为一种社会技术来分析,而不是将其视为通往超智能的神秘路径。
我们一直说AI“理解”事物。它真的理解吗?还是我们只是在模式匹配自己的拟人化倾向?
一场哲学讨论,质疑AI模型是否真正“理解”,或者我们只是将类似人类的认知投射到模式匹配系统上,并引用了塞尔的中文房间、“随机鹦鹉”和GPT-4的表现。
AI教育仍停留在聊天机器人时代
文章指出,AI教育仍集中于基础的聊天机器人和提示词技能,而现实中的AI开发已转向构建智能体、系统集成和稳健的软件工程,给学习者造成了巨大差距。