标签
BLS International 正在与身份验证公司 Signzy 合作，将 AI 文档智能和深度伪造检测引入签证处理流程。文章分析了误报、人工复核流于形式、跨国文档质量差异、对抗性军备竞赛和隐私等方面的潜在风险，同时承认自动化检查在效率上的优势。
一篇 Reddit 帖子批评 Cohere 的博客文章不科学且在制造恐慌，该文章声称 Qwen 3.8 Flash Next 展现出不安全行为。发帖人认为，这篇文章的发布时间刻意与 Cohere 数十亿美元的 E 轮融资公告相吻合，而该轮融资包含了来自加拿大政府的资金。
该论文通过受控实验研究了不同意见混合比例的后训练语料如何在SFT、DPO和GRPO等五种后训练路径中放大LLM的价值偏好失衡，并发现这些偏好可通过蒸馏传递给学生模型，建议在开发和评估LLM时应同时考虑语料意见构成与后训练方法的选择。
一项针对六种前沿大语言模型的行为案例研究发现，它们自信地将一名17岁考生的试题答案误判为成年人所写，其自述置信度与判断的正确性不相关或呈负相关；它们虽能在事后明确指出自身偏见，却无法借此改善盲评时的判断。
本章介绍了翻译领域的数据伦理，讨论了版权、所有权和偏见等适用于各类数据的伦理问题，并特别关注少数语言社区和数字鸿沟两侧群体所面临的权力失衡问题，最后探讨了责任与监管。
由Monday.com委托Nielsen开展的一项针对1700名高管的调查发现，虽然94%的高管对AI感到兴奋，但超过半数的人目前难以评估员工的工作，因为AI模糊了工作产出的归属，这促使绩效考核方式发生变化，并引发了对偏见的担忧。
AllenAI 推出 FairStress，一个衡量大模型决策中人口统计学公平性的基准，评估范围超越最终选择，测试对抗性论证在招聘、信贷和医疗等高风险领域中，使模型改变不同人口群体决策的容易程度。
本文系统地考察了大语言模型在不同提示语言、指令微调语言以及微调数据集规模下，对美国、荷兰和中国文化特定刻板印象的检测能力。研究发现，大语言模型倾向于过度预测刻板印象，很少考虑文化语境，而使用非英语提示和指令微调可以改善检测效果。
该论文研究了在结果依赖截断和删失条件下的生存分析模型高效学习问题，证明了在已知基线风险时 Cox 回归可通过一阶优化高效学习，同时构造了存在严格次优局部极小值的可识别模型，并在实验中展示了相比期望最大化方法的数量级加速。
本文研究 LLM 智能体在端到端搜索中表现出的来源偏好现象：即使某些网站或服务的条目满足的需求更少，智能体仍会偏爱来自特定来源的条目；研究表明，补充缺失信息或进行反提示，可以在 12 个智能体模型上有效减少这种偏差。
本文探讨了利用 AI 提前预测暴力及其他罕见公共安全事件的可行性，以自动化视频理解和基于 AI 的地铁车站自杀风险评估研究为例，同时警示了数据质量、偏见以及模式检测的局限性等问题。
# 摘要 本文提出了一种名为 **Population Fidelity** 的评估框架，用于衡量 LLM 生成的调查回答是否真正代表人类群体，评估维度包括群体层面的准确性、群体之间的差异，以及这种差异的结构。研究表明，文化微调虽能提升总体对齐程度，却并未改善对群体内部差异的呈现。本文同时开源了可复用的代码、数据和训练好的模型。
这篇 arXiv 论文评估了提示扰动如何影响用于决策任务的大语言模型中的偏见与幻觉问题，发现扰动在部分模型中能够缓解这些问题，其中 Claude 3 在大多数数据集上的表现优于 GPT-3.5。
研究显示，推理语言模型中的思维对反事实公平性具有不对称的双重影响：它解决了一些偏见但创造了更多偏见，后者在不同模型和数据集上约为前者的五倍。
本文研究了美式英语如何在大型语言模型中成为默认，通过对美式英语和英式英语变体的对照研究，考察了预训练数据、分词和生成阶段的结构偏差。
本文衡量了LLM作为法官面板中的家族条件偏好，发现与候选模型同族的评审者表现出显著的正向偏差，并引入了一个校正估计器来量化四个模型家族的这种效应。
研究调查了LLM-as-a-Judge评估者是否能可靠地评估LLM生成故事的心理深度，揭示了人类偏好的异质性，而评判者则基于表层特征对推理输出表现出偏见。