llm-annotation

标签

Cards List
#llm-annotation

LLM 标注员能否达到人类的一致性水平?人类标注一致性基准评估与基于对比知识的多智能体优化

arXiv cs.CL ↗ · 2026-10-26

论文提出 ANT-A 多标注者基准(跨7个数据集、每样本5个人工标注)以及多智能体标注框架 ANT-OR,通过从正负反馈中提炼对比决策规则优化提示,在 Fleiss kappa 一致性上显著超越基线。

0 人收藏 0 人点赞
#llm-annotation

基于大语言模型的网络安全推文分类弱标注:一种教师-学生框架

arXiv cs.CL ↗ · 2026-10-16 缓存

提出了一种基于LLM的Teacher-Student弱监督框架,用于网络安全推文分类,在无需大规模人工标注的情况下训练的PLM模型F1超过0.92,接近完全人工监督的性能。

0 人收藏 0 人点赞
#llm-annotation

预算约束下的多源反事实标注用于离策略评估

arXiv cs.LG ↗ · 2026-10-09 缓存

该论文研究在上下文老虎机的离策略评估中,如何在预算约束下从多个标注源(领域专家、大语言模型)采购反事实标注,通过整数分配优化与单调改进算法,在合成临床和教育数据上将均方误差相对无标注基线降低了 20.58% 和 10.77%。

0 人收藏 0 人点赞
#llm-annotation

可靠但对设计敏感:LLM标注中的仪器不确定性

arXiv cs.CL ↗ · 2026-09-30 缓存

本文提出了基于大语言模型(LLM)标注中的"仪器不确定性"概念,研究表明:在同一种任务设计下,重复运行LLM的结果高度可靠;但对任务设计或模型选择做出合理的调整,就可能大幅改变攻击性语言和仇恨言论的标注结果以及流行率估计。

0 人收藏 0 人点赞
#llm-annotation

措辞框架与选择框架:对French新闻标题的大规模二维审计,2022-2025年

arXiv cs.CL ↗ · 2026-09-25 缓存

本文提出一个二维框架用于分析新闻标题,区分显著性框架和选择框架,并将其应用于对French新闻标题的大规模审计,采用基于LLM的标注方法,揭示了媒体框架中的差异。

0 人收藏 0 人点赞
#llm-annotation

EduBehaviors:基于断言的教育对话可审计编码模式

arXiv cs.CL ↗ · 2026-09-24 缓存

本文介绍了EduBehaviors,一个使用大型语言模型的可解释且可扩展的框架,用于标注教育对话,在TalkMoves数据集上进行评估,并发布了一个面向研究者的工具包。

0 人收藏 0 人点赞
#llm-annotation

从话语到网络:跨Subreddits的俚语采纳与扩散建模

arXiv cs.CL ↗ · 2026-09-23 缓存

本文使用大型语言模型来标注Reddit中的俚语使用,从而建模俚语的采纳与扩散,揭示了网络结构和语义上下文的影响。

0 人收藏 0 人点赞
#llm-annotation

FrenchNews-7: 跨发布者法国新闻编辑部分类基准测试

arXiv cs.CL ↗ · 2026-08-20 缓存

本文介绍了FrenchNews-7,一个用于跨多个发布者分类法国新闻编辑部的基准,特点是一个微调的CamemBERT分类器以及与LLM基线的评估。

0 人收藏 0 人点赞
#llm-annotation

冲突还是策略?法国新闻标题中 La France insoumise 与 Rassemblement National 的不对称角色框架,2022-2025

arXiv cs.CL ↗ · 2026-08-12 缓存

本文使用LLM标注流水线分析了关于 La France insoumise 和 Rassemblement National 的28,592条法国新闻标题,发现了不对称的角色框架:LFI更常被框定为侵略者,而RN则被框定为战略行动者。

0 人收藏 0 人点赞
#llm-annotation

LLMs 可以标注归因图

arXiv cs.LG ↗ · 2026-08-05 缓存

本文提出了一种简单的流水线,利用 LLM 自动将特征分组为归因图中的超节点,达到了与人类标注者相当的可解释性,并在一个两跳任务中恢复了中间跳的超节点。

0 人收藏 0 人点赞
#llm-annotation

一种用于发展语言研究中测量方式动词和结果动词的可扩展工具

arXiv cs.CL ↗ · 2026-05-19 缓存

本文提出了一种计算方法,利用大型语言模型和RoBERTa来识别句子语境中的方式动词和结果动词,准确率高达89.6%。旨在为发展语言研究提供一种可扩展的测量工具。

0 人收藏 0 人点赞
#llm-annotation

MultiSoc-4D:用于诊断孟加拉语社交媒体封闭集大语言模型标注中指令诱导标签崩溃的基准

arXiv cs.CL ↗ · 2026-05-11 缓存

本文介绍了 MultiSoc-4D,这是一个用于诊断大语言模型在标注孟加拉语社交媒体数据时出现的指令诱导标签崩溃问题的基准测试。研究揭示,大语言模型系统性地倾向于使用默认标签,导致对仇恨言论和讽刺等少数类别的检测不足。

0 人收藏 0 人点赞
#llm-annotation

说服策略有多重要?来自慈善对话的LLM标注证据

arXiv cs.CL ↗ · 2026-04-23 缓存

研究者用三个开源大模型为PersuasionForGood语料库中的10,600条说服者回合标注41种说服策略,发现策略类别对捐赠方差解释力极低,而“内疚诱导”显著降低捐赠率。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈