evaluation-protocol

标签

Cards List
#evaluation-protocol

共同进化,分离失效:自我改进智能体中的技能—策略协同进化陷阱

arXiv cs.AI ↗ · 3天前 缓存

本文揭示了自我改进智能体中技能-策略共进化的脆弱性陷阱,提出部署导向的评估协议CODA来审计技能漂移的影响,发现最差情况下共进化增益会被削弱52-93%。

0 人收藏 0 人点赞
#evaluation-protocol

CIViC:音频条件化视觉预测的代理任务证据验证框架

Hugging Face Daily Papers ↗ · 2026-10-11 缓存

该论文提出了CIViC——一套四道验证关卡的评估协议,用于检验音频条件化视觉预测器是否真正利用了预期的音频信息。在人脸栅格化、合成音频混合和SpeakerVid代理任务上进行评估后,结果表明不同的对照实验支持不同的解释,结论并不一致。

0 人收藏 0 人点赞
#evaluation-protocol

RAG-Stress:探究检索增强生成中证据依赖的边界

arXiv cs.CL ↗ · 2026-10-09 缓存

RAG-Stress 提出一个受控诊断协议,通过编辑检索证据中的单一断言来诱导错误答案,量化模型在检索增强生成中被误导证据覆盖正确答案的比率(misleading rate),并发现严格遵循文档的指令会系统性提高误导率。

0 人收藏 0 人点赞
#evaluation-protocol

预测信用:衡量科学解释为实验预测带来的附加价值

arXiv cs.AI ↗ · 2026-10-02 缓存

本文是 arXiv 论文,提出了一套协议,用于衡量科学解释为实验预测所贡献的预测信用(predictive credit)。研究在 Tox21 和 OpenML 基准上发现,匹配的科学解释并未显著提升预测准确率,但在某些模型复现(model replay)设置下仍观察到了一定的性能增益。

0 人收藏 0 人点赞
#evaluation-protocol

ChartRevise:基于代码的精确图表编辑数据集与评估协议

arXiv cs.AI ↗ · 2026-10-01 缓存

论文提出了 ChartRevise,一个用于程序驱动的精确图表编辑的结构化数据集和无参考评估协议,涵盖 92,438 条记录和 344 种编辑类型;在该数据集上进行微调后,五个模型的需求召回率平均提升 16%,精确编辑率提升 22%。

0 人收藏 0 人点赞
#evaluation-protocol

预测信用:衡量科学解释对实验预测的额外价值

Hugging Face Daily Papers ↗ · 2026-09-29 缓存

本文提出一种配对预测协议,用于衡量科学解释对实验预测的额外价值,并在 Tox21 与 OpenML 基准上测试;结论是自然解释的预测信用在测试分辨率下仍未得到确认,而 DeepSeek V4 系列模型的解释卡可降低部分次级漂移。

0 人收藏 0 人点赞
#evaluation-protocol

Inquesto Score:语音代理的可靠性协议

arXiv cs.CL ↗ · 2026-09-28 缓存

本文介绍了Inquesto Score,一种针对语音代理的可靠性协议,它通过定义失败事件和严重性级别来衡量交互成功,并提供了行为诊断视图和声学鲁棒性分析。

0 人收藏 0 人点赞
#evaluation-protocol

到达还是解决?用检查点交接归因代理强化学习的收益

arXiv cs.AI ↗ · 2026-09-18 缓存

本文介绍了检查点交接协议,用于归因代理强化学习中的收益,通过分离'到达'(到达有用状态)和'解决'(从那些状态解决),表明RL改进源自这两个组成部分。

0 人收藏 0 人点赞
#evaluation-protocol

进化还是幻觉?LLM进化搜索中的评估再思考

arXiv cs.CL ↗ · 2026-09-18 缓存

本文批判了LLM进化搜索的单点评估,表明最优性能取决于种子和迭代次数的变化,并提出了一种预算网格评估协议。

0 人收藏 0 人点赞
#evaluation-protocol

TeleAntiFraud 2.0:一个可刷新的、基于档案且基于音频的电信欺诈检测基准

Hugging Face Daily Papers ↗ · 2026-09-17 缓存

本文介绍了TeleAntiFraud 2.0,这是一个基于音频的基准,用于评估电信欺诈检测模型,采用混合树生成流水线和每月冻结集,以应对不断演变的欺诈脚本和近域负样本。

0 人收藏 0 人点赞
#evaluation-protocol

LSREP:一种用于评估对话记忆的纵向状态重放协议,以经审计的本地优先架构 ICE v2 为例

arXiv cs.AI ↗ · 2026-09-16 缓存

本文介绍了 LSREP,一种用于评估对话记忆的纵向状态重放协议,并以 ICE v2 作为案例研究,通过与向量 RAG 对比的重放和审计,揭示了故障模式。

0 人收藏 0 人点赞
#evaluation-protocol

模态断层线:结构损坏揭示脆弱的全模态推理

arXiv cs.CL ↗ · 2026-09-01 缓存

本文介绍了SCEval,一种诊断性评估协议,它通过应用结构损坏来测试全模态大型语言模型的脆弱性,揭示了干净准确性并不确保可靠的跨模态推理。

0 人收藏 0 人点赞
#evaluation-protocol

Hear2Act:评估韵律何时应改变助手行为基准

arXiv cs.CL ↗ · 2026-08-21 缓存

本文介绍了Hear2Act,一个统一的基准,用于评估韵律线索如何影响任务导向对话的决策。研究发现,当词汇证据不足时,韵律很重要,并且音频LLM通过显式的动作关注表示能获益。

0 人收藏 0 人点赞
#evaluation-protocol

从受控到真实世界:面向实际环境的渗透测试智能体评估

Hugging Face Daily Papers ↗ · 2026-07-14 缓存

本文提出了一种实用的评估协议,用于在现实复杂目标(而非简化基准)中评估AI渗透测试智能体。它采用基于LLM的语义匹配、二分图解析和持续真值来对发现的漏洞进行评分,并发布了专家标注的真值数据和代码。

0 人收藏 0 人点赞
#evaluation-protocol

持续学习何时需要学习

arXiv cs.LG ↗ · 2026-07-10 缓存

本文提出了一个统一的LLM持续学习框架,将变化沿空间(新领域)和时间(数据漂移)两个维度进行解耦。它评估了多种方法,包括提示、监督学习、强化学习和上下文压缩,在现实的顺序设置下。

0 人收藏 0 人点赞
#evaluation-protocol

当存储证据不再可用时:Agent 记忆的条件规模评估

arXiv cs.AI ↗ · 2026-05-11 缓存

本文提出了一种针对 Agent 记忆的条件规模评估协议,分析随着无关会话的累积,可靠性如何下降。该研究识别了不同记忆接口和大型语言模型(LLM)下的特定失效区域和可用规模边界。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈