标签
本文提出利用文学解释作为设定来评估语言模型中的文化推理深度,强调解释深度和基于证据的基准,而非传统指标。
Wazobia Eval 是一个旨在评估AI模型在尼日利亚皮钦语情感理解、讽刺检测和文化推理方面的基准,旨在提升该语言的自然语言处理能力。
NARU 是一个评估日本超长视频中叙事演进和文化推理的基准,通过分层标注管道和母语者验证构建,以解决当前基准的空白。
ADAGE 是一种语言无关的流水线,用于构建具有挑战性且无需翻译的抽象类比推理基准。它揭示了模型在阿拉伯语、阿姆哈拉语和日语中普遍存在的文化推理差距。