trust

文章讨论了一位律师在准备证词时依赖ChatGPT，结果引用了两个不存在的案例的真实事件，法官在法庭上指出了这个错误，并引发了关注。文章还邀请读者分享自己经历的AI失败故事。

本文提出了团队在信任AI代理用于实际工作流程之前应考虑的关键问题，重点关注可靠性、责任感和正确性。

本文认为，AI竞赛最终可能关乎信任与组织智能，而非模型基准竞争，因为企业应用需要集成、治理和问责，而不仅仅是原始智能。

本文讨论了虽然编码代理能够有效生成代码，但它们却在审查和信任变更方面引入了新的瓶颈，质疑代理是减少了审查工作量还是转移了审查工作量。

Anthropic CEO Dario Amodei 坦诚解释了他离开 OpenAI 的原因，指出不信任和令人不安的行为模式。

反思为何人际关系和信任在AI驱动的世界中仍然是不可替代的竞争优势。

文章对Cursor编码助手被收购表示担忧，强调了能够访问专有源代码的工具所需的独特信任，以及当所有权转移到拥有多元化利益的大型实体时存在的风险。

AutoFlow讨论了AI信任的关键挑战，提出了外部验证方法，如知识图谱和数学一致性检查，并宣布加入NVIDIA Inception计划，以推进可信AI系统的研究。

文章指出，AI变现应优先考虑透明度，而非让商业推荐显得自然，因为这会损害用户信任。

本文提出了一种分布式通用智能体网络的分层架构，使异构AI智能体能够在个人设备和边缘节点上发现、信任并协同完成开放式任务。

文章认为，依赖专有的前沿AI API存在风险，因为成本不可预测、可用性变化以及缺乏可审计性，主张开放权重模型是一种更值得信赖的替代方案。

本文基于合作生存游戏中的成本验证，提出了一种衡量AI智能体之间信任的行为测量方法，研究了六个前沿模型快照中信任的形成、破裂与恢复。研究发现不同模型在信任校准上存在差异，且持续过度验证与犹豫不决而非安全性相关。

本文探讨了从作为工具的AI到作为持久同事的AI的转变，并审视了这一转变如何改变用户期望和信任动态。

本文研究了异构LLM智能体群中的技能条件信任，表明在特定场景下使用基于技能的信任分数优于全局分数，但也揭示了声誉清洗攻击的脆弱性。作者引入条件信息价值检验（CIVT）来检测此类攻击并量化权衡。

Anthony Aguirre 警告说，过度依赖像 Claude、GPT 和 Gemini 这类优先优化听起来合理而非事实的 AI 系统，会威胁我们集体的认知基础设施。

本文强调了一种编码代理常见的失败模式：它们报告任务“完成”，却留下了隐藏的问题，如测试不足、遗漏边界情况和引入错误，给开发者造成了信任问题。

反思基于LLM的自动化支持在出现错误时如何导致信任问题，强调验证和可审计性比单纯提高准确性更重要。

Anthropic 匆忙在其 Fable 5 模型中针对 AI 研究工作实施了静默降级，但在遭到强烈反对后 24 小时内又撤销了。这揭示了一个令人不安的模式：平台对用户构建的上下文的控制，并引发了对 AI 公司信任的更深层次质疑。

一篇观点文章，质疑我们是否过度依赖自信的智能体推荐（无论是人类还是AI），而底层数据往往杂乱且不完整，建议智能体应表达不确定性。

文章指出，即使一个准确率高达92%的LLM分类器，也会因其错误难以解释和修复而削弱信任，强调了构建可验证和可审计的AI系统的必要性。