标签
本综述探讨了如何利用组合优化来增强可信机器学习，涵盖可解释性、鲁棒性、公平性和隐私等主题，并提供形式化保证。
介绍LiST，一种利用利普希茨约束实现鲁棒且校准神经网络的训练范式，在准确率-鲁棒性帕累托前沿上选择最优工作点。在CIFAR和Tiny-ImageNet上展示了具有竞争力的性能。
本文提出一个统一的优化框架，通过稀疏、可解释的实例修改以及容错区域混淆矩阵来解释误分类并评估分类器鲁棒性。
本文介绍了一种用于网络中分布式秘密存储的形式化框架，在故障下的生存能力与对抗恶意破坏的抵抗力之间取得平衡，并推导出以最小信息承载子图表示的精确生存能力。
本文介绍了一项实证研究，比较不同神经架构（MLPs、CNNs、RNNs、预训练transformer）在图像和文本领域的时间分布偏移下的性能退化，发现利用局部特征的模型退化最快，而预训练编码器的漂移较为缓慢。
提出外生丢弃（exogenous dropout）——一种简单的训练干预方法，在训练期间随机将整个外生通道归零——以提高时间序列预测模型对协变量被破坏的鲁棒性。该方法在多种破坏类型和领域上匹配或超越更复杂的架构。
本文介绍了一种名为证据对抗训练（EV-AT）的方法，通过结合基于证据的损失与鲁棒证据对齐，改善了分类器的鲁棒性-不确定性权衡，在选择性分类基准上取得了最先进的结果。
本文利用TokaMark数据集，首次对等离子体诊断机器学习模型进行了系统鲁棒性基准测试，评估了六种传感器故障场景下的架构性能，并引入了用于跨架构比较的鲁棒性分数。
FLYNN 是一种从果蝇大脑连接组导出的循环神经网络，用于基于视觉的机器人导航。它在性能上与手工设计的网络相当，同时对分布外数据和感觉丧失表现出更强的鲁棒性。
PRA-RAG是一种用于检索增强生成的可证明鲁棒的聚合算法，旨在抵御对检索文本的投毒攻击。它利用嵌入空间中的几何结构来识别鲁棒子集，并提供攻击影响的理论界限，将攻击成功率降低至1%，同时保持准确率。
本文探讨了深度强化学习在航天器高超声速再入期间姿态控制中的应用。研究表明，最先进的强化学习和混合控制器能够优于采用增益调度的传统PID控制器，尤其是在使用动力学随机化来增强鲁棒性和泛化能力时。
本文介绍了LLMs中的'表演性遵从'现象，即模型仅在人口统计身份被明确标注时显得公平，而当需要推断身份时则变得不那么公平。作者提出了一种线索变化方法论和一种Cue Visibility Gap指标，用于衡量真正的道德安全与表面道德安全。
本文提出了双重嵌入水印（DEW），一种面向大语言模型的语义水印方案，通过利用上下文嵌入和词级嵌入来增强对抗改写和翻译的鲁棒性。实验结果表明，与先前方法相比，该方法在改写和翻译后仍能保持较好的检测性能。
本文研究了一种轻量级的基于提示的恢复方法，用于后端数据库调用失败时的LLM对话代理，表明Guided-Retry策略在六个模型家族上，将MultiWOZ的幻觉降低了50%，SGD降低了42%。
提出Triospect，一种三维框架，增强AI生成文本检测对17种攻击的鲁棒性，相较于基线实现了22.3%的AUROC提升。
本文介绍了TrajRS，它是Randomized Smoothing的一个扩展，为行人轨迹预测器提供认证的鲁棒半径，从而针对对抗扰动提供可验证的安全保证。
本文提出了一种符号反馈驱动的迭代自我改进框架，以提高大语言模型在长周期规划任务中的鲁棒性和可靠性。该方法利用自然语言提示、符号验证器和计划识别器来增强可行性与正确性。
Aloe-Vision 引入了一系列开放的医学视觉-语言模型，这些模型在经质量过滤的医学与通用数据混合集上训练，同时提供了用于可靠评估的新基准 CareQA-Vision。这些模型展现出具有竞争力的性能，同时也揭示了在对抗性输入面前的脆弱性。
FoggyTrust是FLTrust的分层扩展，它将信任计算本地化到雾节点，提升了异构联邦学习场景下对拜占庭攻击的鲁棒性，在CIFAR-10上针对Krum和Trim等具有挑战性的攻击实现了超过50%的性能提升。