verifiability

本文探讨了将强化学习应用于缺乏明确可验证性任务的挑战，引用了Dario Amodei关于实现“数据中心中的天才之国”的预测，并讨论了RLVR、RLHF、Constitutional AI以及Scale AI的基于规则的奖励等技术。

本文分析讨论了使用可验证奖励的强化学习（RLVR）在数学和编程中的局限性，以及将强化学习扩展到主观或不可验证任务（如规划或科学发现）所面临的挑战。文章还探讨了RLHF和Constitutional AI等技术作为对齐的替代方案。

本文介绍了一个范畴论框架，用于通过组合可复用的foundries（基础组件）来构建可验证、局部真值保持的基础模型，该框架在Odyssey系统中实现，并计划于ICML 2026进行教程讲解。

Data2Story 是一个多智能体框架，能够将数据集转化为可验证的多模态故事，充当端到端的数据记者，具备证据支撑和多模态生成能力。

本文介绍了数据记者智能体（Data2Story），一个多智能体框架，通过生成基于证据的多模态新闻故事来自动化数据新闻，同时确保透明性和可验证性。

ScientistOne 引入了 Chain-of-Evidence，这是一个面向自主研究代理的可验证性框架，确保每个声明都可追溯到证据来源。该框架实现了零幻觉引用、完美的分数验证，并在 75 篇论文中达到了最高的方法-代码对齐度，同时在五个前沿研究任务上达到或超过了人类专家水平。

本文提出了一种细粒度的Concept Bottleneck Model框架，将每个概念锚定在局部视觉证据上，从而能够直接验证概念的正确性，并提高医学成像任务的透明度。

OpenAI 发布了一份报告，介绍了提升 AI 开发可验证性的机制，说明了利益相关者如何验证组织关于 AI 系统属性和安全实践的声明。

安德烈·卡帕斯讨论了2024年12月LLM达到新可靠性水平的转变，提出了'vibe coding'用于提升下限，'agentic engineering'用于提升上限，并认为可验证性是AI参差不齐能力的关键。