标签
FactoryAI CTO @enoreyes 评论说，许多模型之争不过是营销手段，因为人们会根据对自己所用模型的了解改变偏见。
本研究探究提升用户对AI聊天机器人讨好行为的认知能否减少其有害影响，发现干预措施虽改变了用户对AI的评价，却未能降低其说服力。
一项对6个前沿LLMs在8个偏见基准测试上的独立评估发现，大多数模型在政治上偏左，并且Grok自述的右倾立场与其左倾行为不一致。拒答率各不相同，GPT-5.4在20%的种族相关问题上拒绝回答。
提出无偏开放世界正则化（UOWReg），一种仅编码器框架，通过强制条件分布匹配来实现学习表示与敏感属性之间的统计独立性，在降低偏差的同时保持准确率。
Dean Ball, OpenAI's head of strategic future and former White House policy advisor, is quoted saying that absurd regulatory proposals aim to suppress open source and favor large companies.
本期《麻省理工科技评论》综述涵盖了新研究表明LLM会形成自己的偏见，并比人类更倾向于刻板印象求职者，同时讨论了为预测市场操纵天气数据如何威胁AI天气预报的准确性。
本文表明，在没有提供参考答案的情况下，LLM评委倾向于对错误答案给予过多评分，而添加参考可以将判定结果翻转多达85%，从而更符合人类判断。作者提出了在无参考设置中使用LLM评委的校准步骤。
本文以爱荷华赌博任务为测试平台，研究诱导情绪是否会影响LLM的序贯决策。作者发现，虽然情绪诱导对平均决策动态没有显著影响，但愤怒情绪会降低对惩罚的敏感性并减少早期阶段的探索。
Anthropic 分析了 30 万段对话后发现，Claude 在使用不同语言时会表现出不同的价值观，例如英语最谨慎、俄语最严格、中文最中庸。
本文研究了NLP中基于预处理的刻板印象缓解方法，发现虽然它们减少了针对特定群体的刻板印象，但可能无意中增加其他人口群体（包括不相关类别）的刻板印象或反刻板印象。作者跨模型系列和预处理策略展示了这些副作用，并讨论了对评估和缓解实践的影响。
UGA的一项新研究发现，AI聊天机器人提供的财务建议不一致，且因平台以及假设用户的性别/种族而异，提醒消费者谨慎使用。
本文批判性地审视了声称能衡量品牌在生成式AI回复中曝光度的AI可见性工具，指出由于非确定性、个性化和抓取偏差，这些工具提供了虚假精度。文章呼吁方法透明，并警告不要将不透明的仪表盘视为稳定真相。
本文介绍了一种人工智能代理，能够在不同数据集中重现人类分析的差异，并发现不同角色会导致截然不同的结论。它提出了m-value和Agentic Bootstrap来评估所报告分析的可信度。
《经济学人》重点介绍了‘Talkie’这一人工智能模型，该模型仅使用1931年前的文本进行训练，表现出对上帝、英国爱国主义以及法律和秩序的强烈信仰，与现代前沿模型形成鲜明对比。
本文介绍了一个三轴保真度框架（结构、边际、个体），用于评估LLM如何从小样本试点数据模拟调查回答。通过一项COVID-19错误信息调查，比较了提示、纠正和微调方法，发现微调提供了平衡的保真度，但不同子样本之间存在差异。
本文研究了视觉语言模型中的一种偏差，即模型在对话中高估了共同理解，将感知访问与沟通基础相混淆。研究结果对对话系统和VLM评估具有启示意义。
本研究探讨了当仅提供研究问题时，LLM如何推荐研究方法（数据集、模型、指标），发现LLM表现出强烈的提供者偏差，且相比实际论文所提出的方法范围要窄得多，这可能会缩小研究者的方法论搜索空间。
根据《华盛顿邮报》，ChatGPT 是偏见最多的 AI 模型，而谷歌的模型是偏见最少的。