MET:理论驱动与文化感知的多语言道德推理

Hugging Face Daily Papers 论文

摘要

本文介绍了 MCLASH(一个多语言道德决策基准)、MET(一种基于理论的提示方法,用于文化感知的道德推理),以及 MET-D(一种自蒸馏训练方法,可跨不同模型家族和规模改进多语言道德推理)。

语言模型越来越多地被用于跨不同语言和文化背景的道德决策,然而现有工作在多语言性方面存在三个方面的忽视:1)多语言评估基准使用直接翻译,未能适应文化特定项目;2)道德推理的推理时方法依赖于静态、以英语为中心的脚手架,缺乏道德理论基础;3)道德决策的训练方法通常需要来自更强模型或人类标注者的昂贵监督。我们通过三项贡献弥补了这些空白。首先,我们引入了 MCLASH,一个多语言道德决策基准,以捕捉跨语言的文化情境下的道德直觉和社会规范。其次,我们提出了 MET(基于理论的多语言伦理推理),一种两步提示方法,构建在由心理学和哲学专家策划的理论基础之上:模型首先选择情境和文化特定的依据,然后用用户母语对这些依据进行推理。第三,我们提出了 MET-D(MET 蒸馏),通过一个无需外部监督的自蒸馏训练阶段来增强第二步。MET-D 在三个不同规模和家族的模型(Qwen3-4B、Qwen3-8B、Gemma3-4B)上均提升了基模型的宏F1,在 MCLASH 上平均提升 3.71 点,在 MMoralExceptQA 上平均提升 4.23 点,其中在 Qwen3-8B 上的马来语最高提升 12.94 点。我们进一步揭示,MET-D 平均增加了 62.13 点的母语推理,且有益的依据在不同文化中存在系统性差异。这些贡献共同为文化对齐、理论驱动的多语言道德推理开辟了道路。
查看原文
查看缓存全文

缓存时间: 2026/07/14 20:17

论文页面 - MET:基于理论且具有文化意识的多语言道德推理

Source: https://huggingface.co/papers/2607.11736

摘要

语言模型越来越多地被用于跨不同语言和文化背景的道德决策,然而现有工作在三个方面忽视了多语言特性:1)多语言评估基准使用直接翻译,未能适配特定文化项目;2)道德推理的推理时方法依赖静态的、以英语为中心的支架,缺乏道德理论基础;3)道德决策的训练方法通常需要来自更强模型或人工标注者的昂贵监督。我们通过三项贡献填补这些空白。首先,我们推出 MCLASH,一个多语言道德决策基准,用于捕捉跨语言的、具有文化情境的道德直觉和社会规范。其次,我们提出 MET(基于理论推理的多语言伦理方法),这是一种两步提示方法,建立在来自心理学和哲学的专家策划、基于理论的基石之上:模型首先选择特定情境和文化的基石,然后以用户母语进行推理。第三,我们引入 MET-D(MET 蒸馏),它通过一个无需外部监督的自蒸馏训练阶段增强第二步。MET-D 在三种不同规模和系列(Qwen3-4B、Qwen3-8B、Gemma3-4B)的模型上,相比基础模型平均提升 macro-F1 值:在 MCLASH 上提升 3.71 分,在 MMoralExceptQA 上提升 4.23 分,其中马来语在 Qwen3-8B 上的 MCLASH 增益最高达 12.94 分。我们进一步揭示 MET-D 平均提升母语推理 62.13 分,且有益的基石在不同文化之间存在系统性差异。这些贡献共同为文化对齐、理论驱动的多语言道德推理开辟了道路。

查看 arXiv 页面 (https://arxiv.org/abs/2607.11736)查看 PDF (https://arxiv.org/pdf/2607.11736)项目页面 (https://huggingface.co/collections/launch/met)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.11736)

引用本文的模型(11个)

launch/MET-D-Qwen3-4B 文本生成• 4B• 约4小时前更新 • 759 (https://huggingface.co/launch/MET-D-Qwen3-4B)

launch/MET-D-Qwen3-8B 文本生成• 8B• 约4小时前更新 • 836 (https://huggingface.co/launch/MET-D-Qwen3-8B)

launch/MET-D-Gemma3-4B 文本生成• 4B• 约4小时前更新 • 859 (https://huggingface.co/launch/MET-D-Gemma3-4B)

launch/MET-D-Qwen3-4B-en-only 文本生成• 4B• 约4小时前更新 • 775 (https://huggingface.co/launch/MET-D-Qwen3-4B-en-only)

浏览引用本文的11个模型 (https://huggingface.co/models?other=arxiv:2607.11736)## 引用本文的数据集(1个)

launch/MCLASH 查看器• 约4小时前更新 • 2.61k • 103 (https://huggingface.co/datasets/launch/MCLASH)

引用本文的Space(0个)

无Space链接本文

在Space的README.md中引用arxiv.org/abs/2607.11736,即可从此页面链接。

包含本文的收藏集(1个)

相似文章

内在文化:迈向对大语言模型文化推理机制的理解

arXiv cs.CL

该论文提出了 CultureLens——一个基于参考基准的评测与机制研究,用于探究大语言模型如何使用文化信息。研究表明,当引入相互矛盾的规范时,模型的一致性回答会显著下降,而通过有监督微调可以在很大程度上缓解这一弱点。

M$^3$R-Bench:证据支撑的多模态隐喻理解统一基准

arXiv cs.CL

本文介绍了M3R-Bench,一个包含1,000个图文实例的统一证据支撑多模态隐喻理解基准,并提出了M3R-Reasoner,一个结合基于课程学习的推理监督和强化学习的8B参数模型,其性能优于更大的专有模型。