电子表格AI暴露了一个与聊天机器人不同的问题

Reddit r/ArtificialInteligence 新闻

摘要

本文讨论了在电子表格中使用AI时独特的可靠性挑战,错误可能隐藏在公式和上下文中,并主张专注于狭窄、可验证的任务,而非广泛的表格理解。

电子表格AI感觉像是对我们如何看待AI可靠性的一个有用压力测试。对于聊天机器人的回答,错误可能令人烦恼,但有时显而易见。而对于电子表格,错误可能隐藏在公式、范围选择、辅助列或对数据含义的随意假设中。这使得宽泛的电子表格提示以一种非常具体的方式存在风险。人们很容易要求AI查看整个工作簿并找出问题。问题在于,真实的电子表格充满了人类可见但并非总能清晰表示为数据的上下文。标签之间相互引用。标签几乎匹配但不完全一致。看似输入列的可能是手动覆盖。公式的正确性可能只因为某个没人记录下来的混乱业务规则。所以有趣的问题不仅仅是AI能否推理表格。而是任务是否能够被充分界定,使得答案可验证。当任务狭窄时,我更信任电子表格AI。解释这个公式。比较这两个范围以找出缺失的ID。使用一条明确的规则清洗这一列。为这个精确输出建议一个公式。检查这些类别标签是否不一致。我认为电子表格比许多文本任务更清晰地揭示了通用AI问题。难点不仅仅是生成一个看似合理的答案。难点在于将模型保持在上下文边界内,并使输出易于人类在影响实际工作前验证。也许这正是实用AI产品应该投入更多精力的地方。不是去宣称理解整个工作簿,而是更好地控制范围、源范围、依赖关系以及什么不应该被触及。
查看原文

相似文章

构建AI:错误不容有失

Reddit r/AI_Agents

本文反思了在鹿特丹一家社会组织的志愿者中构建本地部署AI聊天机器人的经历,强调当AI错误带来实际后果时(例如向无家可归者提供过时的庇护所信息),其设计与工程方法必须与低风险场景有根本不同。