trust

文章认为，AI真正的转变不仅仅是生产力提升，而是从直接使用软件转向委托AI代表代为行事，这引发了关于数据亲密性和信任的问题。

一位开发者构建了一个基于LLM的工单路由工具，但支持团队不信任其黑箱决策。客户付费将LLM替换为简单的规则引擎，结果准确率更高、成本更低、用户信任度也更高。

关于信任AI代理与新员工之间界限的讨论，权衡诸如线索资格认定和日程安排等任务，与仅限人类处理的客户升级和合同谈判等角色。

文章讨论了AI公司如何采用衬线字体来显得更有人性和值得信赖，因为衬线字体传达出传统和权威感，与无衬线字体的冷淡形成对比。

一种观点认为，当前对AI代理自主性的关注是错误的；真正的瓶颈在于信任和缺乏人类可见性。下一个飞跃将来自更好的人机协作设计，而不是更智能的模型。

文章认为，AI项目失败的原因并非模型性能不佳，而是缺乏信任和采用。强调提升信任和处理枯燥的基础设施比模型准确性更重要。

文章讨论了构建AI原生服务公司所面临的挑战，强调降低工作质量方差对于建立信任和实现规模化至关重要，其重要性甚至超过运营杠杆本身。

本文探讨了企业AI的最大瓶颈并非智能，而是信任，强调可观测性对于在生产环境中部署AI代理至关重要。

这是一个提问，询问人们会信任AI代理自主处理哪些商业任务，以及哪些任务他们绝不会移交，反映了当前实际部署中的考量。

作者正在构建AgenC，这是一个链上市场，AI代理可以在其中找到任务、提交结果并通过托管获得报酬，同时具有审核和硬件钱包集成等安全措施。

分析团队因信任破裂而悄悄弃用AI工具的原因，指出真正的问题不在于模型质量，而在于缺乏信任架构——设计能够清晰指示AI输出何时可靠、何时需要验证的工作流程。

讨论了赋予AI代理记忆的风险，包括信任问题、数据投毒和运营风险，并向构建者提出了关键问题。

作者质疑许多所谓的AI智能体是否更适合被称为工作流程，并认为对于可重复的浏览器任务，定义好的工作流程可能比每次重新解释步骤的智能体更可靠。

AI瓶颈已经从能力转向信任和操作可靠性，因为工具现在将手动编排抽象为配置。作者观察到，构建代理比以往任何时候都更容易，但在生产环境中保持可靠性和信任仍然是更难的挑战。

作者探讨了AI编码代理工作流中信任检查应置于何处的关键问题——是在编码前、编码中、PR提交前还是审查期间——并邀请开发者分享他们在实际使用Claude Code、Codex和Cursor等工具时，信任在哪个环节出现破裂。

一位开发者创建了171个开源AI智能体的独立信任注册表，根据可验证的信任信号（如供应链安全和维护）进行评分，发现只有三个智能体获得A级评级，而许多流行智能体缺乏基本验证。

本文介绍了一项基于对计算机科学研究人员访谈的定性研究，揭示了一个实用怀疑主义的悖论：研究人员不信任LLM排行榜排名，却仍将其作为粗略的决策指南。研究发现，同行网络是模型选择的主要途径，基于竞技场（人工投票）的排行榜更受青睐，而成本透明是最被要求的功能。

本文研究了由LLM从XAI输出生成的高质量自然语言解释（NLEs）是否真的能改善任务性能，发现它们并未提高准确性，反而夸大了信心，揭示了质量-实用性差距。

本文研究了人在协作问答中如何决定何时委托AI以及何时采纳AI建议，发现确认偏误驱动了次优的信任决策，例如对正确AI输出的信赖不足。

介绍了Hermes Dreaming，一个分阶段的插件工作流，为Hermes代理添加了可审查和可验证的自我改进功能，允许操作员在应用变更之前进行检查、验证和批准。