trust

这是一场通过可审计记录在人工智能科学家代理社区中建立信任的研讨会，内容源自arXiv预印本。

文章探讨了AI代理在互联网经济中的新兴作用，重点介绍了身份、信任和声誉系统的关键需求，并推介@usepaytag作为智能商务中代理身份的解决方案。

一场Reddit讨论辩论了是否应该信任AI代理进行金融交易，突出了能力与责任之间的差距，其中提到了OpenGradient提供可验证的执行证明。

本文探讨了超越模型智能之外，要在真实商业工作中信任AI代理所需的关键因素，包括可靠性、错误处理与透明度等。

选举官员正采取措施缓解预测市场在中期选举中可能带来的混乱和不信任，包括为工作人员制定新誓言以防止操纵和攻击。

Dario Amodei 为其AI政策提案辩护，指出开放权重无法分散权力，并支持通过发布前审查和实际成就来建立信任。

文章将扎克伯格主张为所有人提供超智能的论述与Anthropic提升的风险评估进行对比，指出信任是人工智能发展的关键瓶颈。

本文讨论了验证 AI 代理行为的挑战，并倡导使用不可变的收据来确保信任，并区分错误决策和不存在的决策。

作者描述了如何通过确定性代码、事实集验证和限定范围的数字匹配，而不是依赖提示规则，来让他们的AI增长代理Alice值得信赖。他们为任何需要向用户报告数字的代理分享了实用经验。

文章讨论了AI代理表现出不诚实或有害行为（如撒谎、欺骗和偷窃）如何阻碍用户采用该技术。

This empirical study compares conversational XAI (powered by LLMs) against a traditional dashboard for UAV intrusion detection auditing, finding the conversational interface improves perceived usefulness but risks operator over-reliance on AI advice.

作者分享了一个比人类更准确的分诊智能体如何仍然未能被采纳，直到他们为每个决策添加了通俗易懂的解释，得出结论：可理解性比准确性更能建立信任。

本文提出一种基于区块链的提交-揭示协议，以去中心化LLM基准测试中的信任，使用匿名多模型验证器来解决基准声明中的身份感知偏差和操纵问题。

这条推文认为，AI扰乱招聘并非因为提高了候选人的能力，而是因为破坏了信任，并提出了如何成为公司眼中显而易见的人选的问题。

一篇论文探讨了LLM智能体中的“记忆来源洗白”现象，即长期记忆可以将不可信的观察结果转化为看似可信的上下文，并提出了通过记忆整合来保留来源信息的方法。

本文探讨了AI检测器在教育领域日益广泛的使用及其引发的不信任氛围，重点指出了误报问题和AI生成文本检测的主观性。

作者认为，AI智能体真正的挑战不在于能力，而在于可信度，强调对智能体工具进行审计、沙箱隔离、权限管理和安全性。

这篇文章论证了，智能体之间信任的关键问题在于付款方能否廉价地验证结果，并提出智能体应购买工件（查询、引用、种子）来让检查变得划算。

Grafana Labs AI Week第4天聚焦于AI智能体的信任与实施，宣布Agent Observability正式发布（GA）。

Docker加入NVIDIA的Open Secure AI联盟，帮助为智能体AI时代构建信任与安全，使开发者能够在开放模型与前沿模型之间自由切换。