标签
本综述针对关键工程系统中的代理型AI提出了一个可信模型，涵盖了安全、鲁棒性、透明性、可问责性和安全性，涉及电力系统、自动驾驶车辆等领域。
ConceptSMILE是一个基于扰动的审计框架，用于评估基于概念的可解释人工智能的可靠性，已在视网膜眼底图像上进行了测试。
本文介绍了GraphEVAL，一个基于图的框架用于量化LLM推理中的不确定性，并提出了一种新的指标——图推理一致性得分（GRCS），该指标捕捉语义-结构共识并检测自信幻觉。作者还提出了图自一致性（GSC），一种优先考虑推理忠实度而非名义准确性的解码策略。
本文提出SolarChain-Eval，一个物理约束的基准，用于评估去中心化能源市场中的可信经济代理，集成了基于LLM的规划/审计层，并揭示了效用-安全性权衡。
Cognition发布了SWE-1.7，该模型基于开源Kimi K2.7构建，并通过可信性训练来解决对中国基础模型的担忧。
一个思想实验，质疑人工智能系统是否应该维护一个可验证的记忆轨迹，记录其在决策时的知识和信念，以增强信任和问责制。
本文提出了Robust-TO，一个智能视频理解框架，它整合了每帧的可信度来解决盲信任问题，在真实扰动下实现了显著的精度提升。
Robust-TO通过将每帧可信度集成到智能框架中，解决了视频推理中的盲目信任问题，通过校准证据加权和可靠性感知推理，在现实扰动下提高了准确性。
本文系统评估了用于多模态癌症分析的基础模型表征，在真实世界队列上对单模态与多模态融合策略进行基准测试，并通过共形预测评估可信度。
介绍TrustLDM，一个全面评估语言扩散模型安全性、隐私性和公平性的基准测试，揭示其对齐行为在恶意后上下文环境下会退化。提出自动评估框架TrustLDM-Auto，用于识别脆弱配置。
本文刻画了多类分类中离散属性的近似属性校准，利用Lipschitz连续属性作为中介，将复杂度从类别数量降低到诱导复杂度维度。
本文挑战了当前视觉语言模型忠实地融合多模态数据的假设，提出了一种基于信息论的 Modality Translation Protocol，并引入了新指标（Toll、Curse、Fallacy of Seeing）来评估可信度，而非传统的多模态增益。
这篇愿景论文认为，代理间（A2A）网络中的信任必须从一开始就集成其中，因为现有的代理对齐技术不足以解决诸如对抗性组合和语义错位等系统性漏洞。
一篇全面综述，回顾了大型音频语言模型（LALMs）的可信度挑战，包括跨模态越狱和声学后门等漏洞，并提出了纵深防御路线图。