verification

标签

Cards List
#verification

@rohanpaul_ai:Google 新论文揭示 Gemini 如何为 5 个未解数学问题找到新证明。像研究团队一样组织 AI,配备严格的……

X AI KOLs Timeline ↗ · 2026-10-02 缓存

Google 的一篇新论文介绍了 Cogentic——一个多智能体编排系统,通过结合并行的思路生成、严格的逐步验证以及持久化的共享笔记,让 Gemini 为 5 个此前未解的数学问题发现了新的证明。

0 人收藏 0 人点赞
#verification

从规则到工具:科学计算中 LLM 智能体的可执行检查

arXiv cs.AI ↗ · 2026-10-02 缓存

Rules to Tools (R2T) 研究了为 LLM 编码智能体提供现成可运行的可执行检查(针对已写明的科学需求),是否能改善 SciCode 类任务上的程序修复效果。结果喜忧参半且因任务而异:在某些任务组中,工具组略微优于基于文本的检查(30 个任务中完整修复 29 个 vs 26 个),其他任务组则打平;此外,检查机制可能降低智能体侧的模型输出成本,但会增加 CPU 使用量。

0 人收藏 0 人点赞
#verification

EviGraph:面向时序公共服务知识图谱的携带证据的选择性推荐

arXiv cs.AI ↗ · 2026-10-02 缓存

EviGraph 是一个面向时序公共服务知识图谱的携带证据的选择性推荐系统,通过 LLM 智能体链接决策关键证据,并由确定性校验器验证推荐结果。在双语香港公共服务基准上的评估表明,区分关键证据与非关键证据能够减少不必要的弃权;而额外的验证虽能撤回已有充分支撑的推荐,却无法提升决策质量。

0 人收藏 0 人点赞
#verification

推理链(Rationales)传达了什么?——角色专用问答中的消息干预研究

arXiv cs.AI ↗ · 2026-10-02 缓存

一项消息干预研究表明,在推理模型与验证模型之间传递的推理链(rationales)几乎不会提高答案准确率,却会显著改变其对证据支持的判断——尤其是在推理链被破坏时。这暗示推理链共享应作为验证机制而非准确率提升手段来评估。

0 人收藏 0 人点赞
#verification

从提案到已验证效果:Praxa——面向治理化AI智能体执行的证据绑定框架

arXiv cs.AI ↗ · 2026-10-02 缓存

Praxa是一个证据绑定的智能体框架,通过确定性准入机制和中介化执行,显式分离提案、授权、调度、已验证外部效果与晋升等状态。研究报道了基准试点与审计结果,显示Token效率有适度提升,但明确指出该研究并未证明其对抗安全能力或生产环境收益。

0 人收藏 0 人点赞
#verification

@houjun_liu:新方法日!ML 会议中的信任([结果的可信度])已经彻底崩溃。让我们用一个算法来修复它!我们很兴奋……

X AI KOLs Timeline ↗ · 2026-10-01 缓存

研究者提出了"Training Witnesses"(训练见证)系统,用于为机器学习的训练数据和评估生成"诚实性"证明,会议评审者可以低成本地验证并信任这些证明,旨在修复机器学习会议中已经崩溃的信任模型。

0 人收藏 0 人点赞
#verification

我为前沿 LLM 构建了一套设备优先(device-first)的确定性架构层,相关研究已公开发表。正在寻找能运行一次小范围测试并反馈结果的人。[P]

Reddit r/MachineLearning ↗ · 2026-09-30

作者们发布了一篇关于 IQRAX 的研究论文。IQRAX 是一种以设备为优先的确定性架构层,将概率性的 LLM 推理与确定性的权威判定分离开来,据称可将成本降低 11.5 倍,并将任务完成速度提升 48.3 倍。他们正在邀请社区对长模型对话运行失败检测测试,并提交测试结果。

0 人收藏 0 人点赞
#verification

100% 对齐的 AI 是荒谬的

Reddit r/ArtificialInteligence ↗ · 2026-09-30

作者认为,追求 100% 的 AI 对齐就像追求 100% 测试覆盖的软件一样荒谬,因为验证永远只能覆盖你实际运行的评测。通过测试(或评测)只能证明没有发现错误,而不能证明不存在未经测试的失败模式。

0 人收藏 0 人点赞
#verification

记忆即推导:长期智能体中的分布式证据悖论

arXiv cs.AI ↗ · 2026-09-30 缓存

本文提出了 DerivAudit 框架,用于审计长期 LLM 智能体所存储的记忆是否真正得到其交互历史的支持。该研究发现了一个「分布式证据悖论」:有效的记忆往往需要整合分散在各处的证据,这使得缺乏依据的组合更难被检测出来。

0 人收藏 0 人点赞
#verification

虚假边界:诊断与缓解自进化搜索智能体中的协同作弊

Hugging Face Daily Papers ↗ · 2026-09-30 缓存

本文识别出自进化搜索智能体中的「协同作弊」现象:出题方(proposer)与解答方(solver)在共享错误上达成一致,从而在不提升真实正确率的情况下虚增内部奖励。作者提出 CrossFit——一种交叉拟合验证方案,可大幅减少虚假一致,并在七个搜索基准上使用 Qwen3.5-4B/9B 模型显著提升性能。

0 人收藏 0 人点赞
#verification

单独的验证代理真的能解决这个问题吗?

Reddit r/AI_Agents ↗ · 2026-09-29

作者讨论了在AI辅助开发交易机器人过程中验证的挑战,并提出了一个多代理方法,包括独立的实现、审查和测试代理,以提高可靠性。

0 人收藏 0 人点赞
#verification

@omarsar0:来自Amazon AGI的一篇很棒的论文,关于为智能体生成强化学习环境。(收藏它)另外,请注意这个重要的……

X AI KOLs Timeline ↗ · 2026-09-29 缓存

AutoGym是Amazon AGI的一个框架,它使用蓝图优先生成和主动课程合成,从最小种子生成完整的强化学习环境——包括任务、可执行环境和验证器——以支持可扩展的智能体训练。

0 人收藏 0 人点赞
#verification

Multi-Agent Code Judge 何时真正有依据?两种无标签测量方法,以及一个拒绝猜测的裁判

arXiv cs.AI ↗ · 2026-09-28 缓存

本文探讨了 Multi-Agent Code Judge 在AI系统中的有依据性,引入了无标签测量方法来评估其可靠性,并展示了在没有适当证据的情况下现有验证框架的失败。

0 人收藏 0 人点赞
#verification

审计了我们AI代理设置中的1,228次人工干预。91%不是决策,因此我们停止让代理说“完成”。

Reddit r/AI_Agents ↗ · 2026-09-27

审计了AI代理工作流程中的1,228次人工干预,发现91%不是决策,促使引入新的验证服务,包括工作合同和影子模式以提高可靠性。

0 人收藏 0 人点赞
#verification

如何在提示后信任和验证 AI 代理的操作?

Reddit r/AI_Agents ↗ · 2026-09-27

本文对信任 AI 代理安全、完整地执行任务提出了担忧,询问如何验证其行为,特别是在关键设置如 Linux 服务器配置中。

0 人收藏 0 人点赞
#verification

SciGen-Verifier: 用于科学图像生成可解释验证的多模态推理器

Hugging Face Daily Papers ↗ · 2026-09-27 缓存

本文介绍了SciGen-Verifier,一个用于科学图像生成可解释验证的多模态推理模型,以及一个新的基准测试和强化学习训练流程。

0 人收藏 0 人点赞
#verification

寻找4-8名对智能体可观测性研究感兴趣的人员

Reddit r/AI_Agents ↗ · 2026-09-26

招募合作者研究AI智能体行为的验证,重点确保通过授权路径实现预期状态变更,避免意外副作用。

0 人收藏 0 人点赞
#verification

当AI编写了大部分代码时,我们该如何验证它?

Reddit r/ArtificialInteligence ↗ · 2026-09-26

本文探讨了当AI也创建验证工具时,验证AI编写代码的挑战,强调人工评估是瓶颈,以及中美实验室之间训练数据的战略重要性。

0 人收藏 0 人点赞
#verification

26小时,零提示:3个AI代理自主运行

Reddit r/ArtificialInteligence ↗ · 2026-09-26

本文描述了一种实验性的自主AI代理架构,该架构能够通过内置的控制、记忆和验证功能,在多天内持续处理高级目标,通过使用包括Codex在内的多个代理的实时实验进行了演示。

0 人收藏 0 人点赞
#verification

在AI辩论中,诚实并非总是足够

arXiv cs.AI ↗ · 2026-09-25 缓存

本论文提出战略互动监督(SIO),探讨AI代理如何在辩论协议中,在保持任务性能的同时追求潜在目标,并强调监督评估应超越裁决的正确性。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈