标签
EDMA提出了一种基于逻辑熵的多模态问答方法,将答题过程形式化为熵减迭代,并量化各模态对答案的贡献,在多个MMQA基准上显著优于Chain-of-Thought等基线。
EvidenT是一个轻量级流水线,用于提升企业检索增强生成(RAG)系统中的证据依据性和可追溯性,在不重新训练模型的情况下,将优质来源命中率提高了29%。
本文探讨了在欧盟将LLM应用从想法转化为生产环境的关键挑战,涵盖法律合规、可追溯性、滥用预防和问责制,并寻求从业者的具体案例。
文章提出了一个问题:当AI代理使用工具和APIs时,责任应该从哪里开始?辩论是应该追踪每一步还是专注于最终结果。
该论文提出了TraceSQL,一个用于文本到SQL系统的轻量级可追溯验证模型,它使用显式诊断特征来估计无参考查询的可回答性,在BIRD基准测试上相比现有基线实现了性能提升。
This paper presents a triple-robustness analysis of RAG for multi-hop traceability, varying embedder, corpus, and judge across thousands of runs. It finds that over-citation is architecturally universal in GraphRAG but its faithfulness consequences are corpus-conditional, and LLM-as-judge faithfulness is fragile across retrieval states.
介绍了HaGen,一种AI辅助方法,可从NASA的ASRS报告中生成用于航空运行安全分析的可追溯危险场景,提供合理的结构化假设和带有证据链接的叙述。
This paper introduces TraceMAS, an interactive demo system for traceable multi-agent forecasting that organizes agent outputs around causal-loop diagrams to make the evidence-to-forecast process inspectable, demonstrated on crude oil price forecasting.
本文介绍了DocTrace,一个用于长文档视觉问答的分层框架,将该任务建模为显式证据图推理。它在三个基准上取得了最先进的结果,同时实现了可追踪的证据来源,比Qwen3-VL-8B-Instruct高出11-14个百分点。
作者介绍了ARGO,这是一个面向Cursor、GitHub Copilot和OpenCode的开源Agent Loop框架,它将ArchiMate结构化的意图图与GraphRAG检索相结合,使AI编码交付可追踪。它分离了意图、架构和实现的责任,并通过两级验收测试来避免将每次失败都视为代码缺陷。
本文介绍了证据账本裁决(evidence-ledger adjudication),一种用于AI辅助写作中主张-证据可追溯性的工作流,并在基于AVeriTeC、CLIMATE-FEVER和SciFact构建的盲测基准上进行了评估,结果表明基于智能体的方法优于基线方法。
Humanly是一个可配置的写作平台,记录写作过程以提供人机协作的可追溯证据,具有密封证书和异常检测等功能。
本文首次严格研究了LLM水印方案如何影响医学性能,在多个LLM和VLM上评估了五种水印在临床推理任务中的效果。作者发现,水印可能导致医学文本质量下降,包括幻觉和词汇损坏,而这些在通用领域的基准测试中被掩盖。
ArcKit 是一个开源的企业架构治理工具,与 Claude Code、GitHub Copilot 等 AI 编码助手配合使用,管理治理工作流,包括需求、设计评审和可追溯性。
本文提出了一种面向AI生成的望远镜调度决策的多级验证与可追溯性框架,融合数据引用验证、逻辑一致性检查和观测约束,以提高高可靠性天文观测任务中决策的可执行性与可靠性。
ModSleuth 是一个新工具,用于追踪现代大语言模型的依赖关系,揭示出像 OLMo 3 和 Nemotron 3 这样的模型依赖于数百个其他模型和数据集,凸显了从仅人类数据到AI生成的训练数据的转变。
本文批评当前AI记忆系统仅仅只是无法被纠正、更新或溯源至来源的只写日志,认为真正的记忆需要一个治理层。
一位开发者使用Active Graph和monid_ai构建了一个完全可追溯且可分支的研究代理,确保每个声明都直接追溯到其来源,并在大约30分钟内使其正常工作。
作者认为,当前的智能体可观测性提供了行动轨迹,但缺乏运行时对行动为何被允许的合理性说明,这对于涉及金钱、数据或通信的生产部署至关重要。