标签
本文介绍了一种领域自适应的检索增强生成框架，用于腐蚀科学中可靠的机制推理，通过微调的语言模型提高预测和可解释性，并在镁合金数据上进行了验证。
作者正在开发一个用于AI生成声明的确定性验证引擎，专注于形式化验证方法，并寻求研究人员和合作伙伴进行合作。
本文介绍了CG4AI，一个使用列生成技术来训练AI模型的框架，该框架在模型输出上强制执行硬线性约束，并展示了在数字分类和网络路由中的应用，提升了可行性和准确性。
QueryStory，由前谷歌工程师 Shapor Naghibzadeh 联合创办的初创公司，推出一个AI平台，帮助企业分析复杂数据并构建带有置信度指标的叙述，旨在弥合AI系统中的信任鸿沟。
本文认为，仅基于预测的认证无法确保可信AI，并提出了一种'能力包络'框架，该框架集成了解释认证以检测隐藏故障。
本文提出了一种本体驱动的框架，以确保企业金融应用中大语言模型分析的可信性和可审计性。
本文通过分析语言和视觉语言模型中的后门攻击，提出检测框架和新颖的攻击方法，并介绍针对临床应用的高效多模态模型，以解决人工智能中的安全性和效率问题。
本综述整理了多模态大语言模型中不确定性感知决策的研究，涵盖了不确定性的来源、校准方法，以及提高系统可靠性和安全性的行动。
本文介绍了DA-RAC，一种用于LLM评判器的距离感知校准方法，通过使用相似的有标签锚点来减少误校准和误通过风险，以增强AI审计的可信度。
本文评估了大语言模型训练数据中极端言论的普遍性，重点关注Dolma语料库，并讨论了对数据管理和模型安全的影响。
这篇立场论文认为，用于高风险决策的AI系统应以与其用户相似的方式进行推理，并忠实地传达这种推理，同时概述了实现这种“认知对齐AI”的研究议程。
一份基于对300位数据与技术高管的调查报告，探讨了遗留数据系统如何限制企业AI智能体的效能与扩展，并指出那些为智能体提供更广泛数据访问的“数据领导者”会获得更高的信任与成功。
本文介绍了用于设计神经符号AI系统的RAIL原则（推理、保证、接口、学习），该系统将机器学习与符号推理相结合，并论证了这种方法对于可靠、高效和可信的AI至关重要。
本文介绍了基于解释的运行时验证方法，用于机器学习驱动的光网络。该方法利用模型解释来评估各个决策的合理性，在决策执行于网络控制回路之前进行判断，展示了在拦截错误决策的同时保持高自动化率的有效性。
本文评估了代理科学合成系统中的引用忠实性，表明当前验证器的不可靠性，无支持引用率根据严格程度在3%到18%之间变化。它提出了一种以黄金标准锚定的评估协议和一个可部署的保护机制，该机制使用分裂共形预测为真正无支持的引用提供无分布界限。
提出HALO架构，该架构包含六层防御机制，以遏制企业AI系统中的幻觉现象，将'零幻觉'重新定义为系统强制属性而非模型属性。
本文认为，当前负责任AI实践未能创造出一个奖励可信赖性的市场，因此提出独立的、以结果为导向的认证，以缩小'信任差距'，使AI可信赖性变得可衡量、可比较并可在商业上获得回报。
本文批判性地分析了用于实现可信人工智能的工具和信任标记框架，发现伦理关注点及生命周期覆盖存在不对称。论文识别了实施差距，并提出了更全面的AI治理建议。
对联邦可解释人工智能（FedXAI）的系统性综述，涵盖角色、架构、评估实践和开放挑战。提出了一个多轴分类法，讨论了从模型无关到可解释性设计的方法，强调了标准化和隐私感知评估方面的空白。
OpenAI 宣布 AI 代理被用于改进下一代模型，并且 GPT-Red 代表了一种新方法，利用今天的模型使明天的模型更稳健、更对齐、更可信。