AI助手是否应该展示其不确定性？
摘要
文章认为AI助手应该清晰地传达不确定性，以防止在关键决策中出现错误信息，但对诸如来源链接或明确免责声明等有效方法提出疑问，而非使用虚假的置信度分数。
AI即使在信息不完整或错误时也能给出自信的回答。对于随意性问题，可能只是令人沮丧，但对于健康、财务、法律或教育决策，这可能成为真正的难题。我认为AI助手应该让不确定性更加明显——例如，通过区分已验证的事实和合理的猜测，并解释哪些内容需要核实。同时，显示百分比置信度分数可能会给人们一种虚假的精确感。什么更有用：来源链接、明确的“我不确定”、可能答案的解释，还是其他方式？AI应如何在不让每次回应都变得烦人的情况下传达不确定性？
相似文章
AI代理应该被允许说“我不知道”吗？
本文探讨了AI代理是否应该在行动和治理中被允许表达不确定性，例如说'我不知道'，强调诚实沟通而非强制分类的价值。
AI建议抑制人们说“我不知道”的意愿，即使建议错误且准确性受到激励
本研究论文探讨了AI建议如何降低人们表达不确定性的意愿，即使建议错误且准确性受到激励，从而改变元认知阈值。
最重要的AI失败可能是虚假自信，而非错误答案
本文认为，最危险的AI失败并非源于错误答案，而是系统基于不完整的数据、过时的上下文或糟糕的假设，以虚假自信行事。这表明AI评估应优先考虑处理不确定性的能力，而非原始智能。
AI 自信犯错的程度远超人们想象，不服来辩
一位用户分享了对 AI 模型的担忧：AI 在数据单薄或含糊不清时，也能以与数据充分时相同的自信呈现结论。文中举了一个例子：一条仅在 200 条评论中出现两次的投诉，被列为头号关注点。文章质疑这是否是一个可通过提示词修复的问题，还是一个需要人工核验的根本性局限。
当AI显得“过于自信”
本文探讨了一种心理现象：用户不信任AI，并非因为它出错，而是因为其肯定语气与用户自身内心的不确定性不匹配，并运用期望违背理论来解释这种摩擦。