trust

开发者指出Elon Musk的Grok AI模型存在重大隐私问题，导致该产品遭遇信任危机。

文章讨论了可验证的AI推理的概念，探讨了可信认证和加密证明等方法，以确保AI生成输出的真实性和来源，而无需重新运行模型。

NVIDIA的博客文章强调了像Nemotron这样的开放模型如何使企业和国家能够构建可信、可控且可定制的AI系统，这与限制检查和适应的封闭模型形成对比。

讨论用户会信任AI代理处理哪些无聊的内部任务，以及不会信任哪些任务。

一名研究人员演示了如何以不到100美元的成本后门化一个开放权重的编程模型，引发了对像GLM 5.2这样的中国开放权重模型的信任担忧。

一名员工使用人工智能代理自动回复Slack消息，该代理在客户截止日期问题上给出了一个自信但完全错误的答案，这凸显了信赖语气和流畅性而非准确性的风险。

文章认为，在AI代理被广泛部署之前，它们需要可验证的身份和可审计性，以确保信任和问责。国际电信联盟（ITU）正在为此制定国际标准。

一个突击测验，询问为什么AI实验室要预训练自己的模型并设计自己的芯片，有从单位经济到信任问题等多个选项。

讨论了AI代理的商业模式如何日益依赖于在初始点击或互动后建立用户信任，强调了点击后信任在AI驱动服务中的重要性。

本文提出将心理能力作为AI评估中缺失的一个维度，并提出了一个概念框架，用于评估AI系统在面向人类角色时如何支持用户认知、情绪解读和决策。

本文提出了一个对抗性社会认识论框架，用于分析涉及人类和大型语言模型的交流景观中的信任、欺骗和推理链，并概述了审计信任违规的机制。

探讨AI智能体在网络中协作的未来，引用AnvitaFlow和Moltbook等项目，并提出关于信任和智能体服务市场的问题。

探讨了阻碍开发者及企业在生产中部署AI代理的障碍与顾虑，包括可靠性、安全性与隐私问题。

对于小企业而言，部署AI的实际瓶颈不再是模型速度，而是建立信任和界定范围——将老板已熟知的重复性决策移交出去，是切实可行的第一步。

探讨在本地运行AI模型的可靠性和准确性，质疑用户能否信任其输出。

本研究探讨了将模型的学习限制在仅能学习受信任的LoRA适配器所能表达的内容这一概念，旨在提高微调的安全性和可靠性。

作者探讨了AI代理间交易的当前现状，质疑信任、托管和争议在实际中如何处理，并邀请开发者分享实际经验。

作者探讨了AI代理拥有公开、可审计的记忆来记录重要决策的想法，这可能会增强信任，但也带来新的复杂性。

一项全国性调查发现，63%的美国人对AI帮助选择候选人感到不适，80%担心AI机器人回答政治调查，凸显了AI与民主交叉领域的公众信任问题。

一位从业者分享了为小型企业定价AI代理的经验教训，认为将其定位为“AI员工”并按月收取类似工资的费用，比按席位或成本加成定价更有效，而且信任和安全问题必须在价格之前解决。