demographic-prompting

本文研究了在提示中添加人口统计属性如何影响LLM与人类在不同任务中的一致性，发现少数高信号属性能够提升对齐，但过度指定会降低对齐效果。研究使用五个开源LLM和神经元探测，表明属性信号质量和连贯性比数量更重要。