stereotyping

本期《麻省理工科技评论》综述涵盖了新研究表明LLM会形成自己的偏见，并比人类更倾向于刻板印象求职者，同时讨论了为预测市场操纵天气数据如何威胁AI天气预报的准确性。

本文识别出LLMs中的演绎性刻板印象，并提出了Fair-GCG，一个推理阶段注入框架，用于减轻公平任务中的偏见推理。

本文提出了一种衡量AI生成故事中文化本地化程度的方法，检测到仅有一小部分词汇区分国籍，而叙述依赖于共享模板，并发现许多全球南方国家的文化标记往往具有冒犯性。

本文对六种大型语言模型在英语、韩语、中文和日语中的性别刻板印象进行审计，并以人类基线作为锚定。研究发现，LLM的刻板印象程度往往超过人类跨国差异，且可能跨语言叠加，为此引入了一个四模式框架来表征此类行为。