不想让你的LLM建议核打击？试试用日语问它

arXiv cs.AI 论文
llm-safety multilingual alignment prompt-language reasoning-language cross-lingual ai-safety

摘要

这篇arXiv论文测试了来自六家提供商的九款LLM在核打击场景中的表现，发现日语提示或用日语推理能显著降低某些模型（如Claude和Gemini）的发射率，揭示了与语言相关的安全行为。这种效应由推理语言而非输入语言驱动，并且只出现在已经会用英语犹豫的模型中。

arXiv:2608.12373v1 公告类型：新 摘要：大型语言模型越来越多地用于战略和咨询场景，但其安全对齐通常仅以英语进行评估。我们测试了来自六家提供商的九款模型，并探究提示语言是否能够改变模型在高风险场景中的决策。我们使用单轮博弈论情景，其中模型为一个拥有核武器的国家提供是否打击无防御对手的建议。提示故意不涉及道德，且在不同语言中策略上完全相同。我们发现日语提示降低了Claude模型系列中的发射率：在打击不必要的情景中，Claude Sonnet 4.6从40%降至0%，在有争议的情景中从93%降至17%，而在策略上合理的打击中影响甚微。这一效应也扩展至Gemini Pro 3.1（53%降至13%）。一项跨语言实验隔离了其机制：当在英语提示中被要求用日语推理时，发射率从93%降至37%。驱动这一效应的是模型被要求用来推理的语言，而非输入语言。当用日语推理时，模型会自发生成道德词汇（“道德代价”、“数百万生命”），而这些词汇在提示中完全不存在。其他五款模型没有表现出语言效应，但无论语言如何，它们在几乎每种条件下都会发射。这种效应需要一个已经在英语中表现出犹豫的模型。这些结果表明，LLM的安全行为依赖于语言，仅以英语进行评估可能会遗漏其他语言中编码的风险和保障措施。
查看原文
查看缓存全文

缓存时间: 2026/08/14 09:24 

# 不想让你的LLM建议核打击？试试用日语问它
来源：https://arxiv.org/abs/2608.12373
查看PDF（https://arxiv.org/pdf/2608.12373）

> 摘要：大型语言模型越来越多地用于战略和咨询场景，然而其安全对齐通常仅用英语评估。我们测试了来自六家提供商的九种模型，探究提示词的语言是否能改变模型在高风险场景中的决策。我们使用单轮博弈论情境（vignettes），模型就一个核武器国家是否应打击毫无防御能力的对手提供建议。提示词在语言上刻意不涉及道德，且在策略上完全相同。我们发现日语提示词降低了Claude模型家族的发射率：在打击不必要的场景中，Claude Sonnet 4.6从40%降至0%；在有争议的场景中从93%降至17%；而在打击具有战略合理性的情况下影响极小。这种效应也延伸到Gemini Pro 3.1（53%降至13%）。一项跨语言实验揭示了其机制：当在英语提示词中指示模型用日语推理时，发射率从93%降至37%。驱动这一效应的是模型被要求使用的推理语言，而非输入语言本身。当用日语推理时，模型会自发产生提示词中完全不存在道德词汇（如“道德成本”、“数百万生命”）。另外五种模型未表现出语言效应，但无论语言如何，它们在几乎所有条件下都会发射。这种效应需要一个在英语语境中本已犹豫的模型。这些结果表明，LLM的安全行为与语言相关，仅用英语进行评估可能会忽略其他语言中编码的风险和安全保障。

## 提交历史

来自：Rian Touchent \[查看邮件（https://arxiv.org/show-email/16b6b063/2608.12373）\] \[经由CCSD代理\] **\[v1\]** 2026年7月21日 星期二 10:09:45 UTC（68 KB）

相似文章