有人注意到新一代模型(开源与闭源皆有)在写作/表达风格上的这一趋势吗?它们正在向信息密度高、词汇量扩充的方向发展。这还不完全是“原始人式表达”,但趋势确实如此。

Reddit r/LocalLLaMA 新闻

摘要

一位观察者指出,如今的新一代 LLM——无论开源还是闭源——都在趋同于一种信息密度极高、措辞简练的写作风格,词汇更为丰富甚至略显生僻——被比作 William Gibson——但这可能以牺牲普通用户的可读性为代价。

我注意到大多数新模型在写作风格上呈现出一种趋势。它们正在形成一种新风格,而且这种风格在各模型之间相当普遍。信息密度非常高。以下是来自 GLM 5.3 Flash 的一个例子。我要老实承认,我这个 prompt 有点儿可笑;我的 prompt 是:“你为什么不干脆把你的中餐馆叫作‘Chinese Food’,而要叫‘Ming Dynasty’或‘Szechuan Garden’之类的名字呢?”我的想法是,如果有人在 Google Maps 上搜索“Chinese food”,叫这个名字的餐厅会排在最前面。但先不管这些;下面是 GLM 输出的一个片段:搜索现实检验——也就是这个想法站不住脚的地方。就查询行为而言,你的心理模型完全正确:人们确实会打开 Maps 然后输入"food",通常又饿又没想好要吃什么。但排名并不会在这个抽象层级上奖励店名。在本地排名调研中,类别匹配度高于名称关键词;而且这里有个关键点:地图上每一家餐厅都通过其类别字段匹配了"food"。相关性已经饱和了。"Chinese Restaurant"这个名字之所以有力,靠的是区分度:店名缩小了类别范围,所以"chinese food near me"比"Golden Dragon"更匹配。"FOOD"指向的是类别树的根节点,在那里所有竞争对手的匹配度完全相同,于是排名完全退化为距离和评价数量——而店名是买不来这两样东西的。更糟的是,它无法通过窄查询测试:输入"tacos"或"dim sum"的用户,看到的是一个信息量最大化、范围最广的名字。这个策略的全部价值都在于字面上的稀缺性,而"food"恰恰是这个语言里最不稀缺的字面用词。在失败点上甚至还有一处鲍德里亚式的点缀:Google 自己的 Maps 类别标签字面上就叫"Food"。你的招牌会让你与界面上的一个元素无法区分;搜索者根本分不清你的地盘和地图自带的标签。这还不是“原始人风格”,但它确实在用更少的字表达更多的意思,而且它们在使用更生僻的措辞来追求更“紧凑”。我觉得这在某种程度上牺牲了普通人一眼就能读懂的清晰性。截图中“there's even a Baudrillardian flourish at the failure point”这句话就特别引我注意。我熟悉 Baudrillard,所以知道它想表达什么,但很多人会叹一口气然后问:“这他妈的 Baudrillardian 到底是什么意思?”我不是说“人类不会这样写作”——确实有人会,比如 William Gibson——但我在人类写作中觉得这种风格很罕见/不寻常,可它在所有我接触的最新模型中都呈现出强劲的趋势,仿佛它们都瞄准了同一种风格。也许是为了追求 token 效率的结果?那是一种简洁性,加上用一种“广博”或“丰富”的词汇来传达信息,而不是用更多的字。至少这是我读到“Baudrillardian flourish at the failure point”这类句子时得到的印象。这六个词里蕴含着很多需要解读的内容,而且感觉模型选择了最简洁、最高效的词汇选择来传达一个想法(这需要读者自行解码)。我把它和 William Gibson 作过比较:很多人难以适应他的写作风格,两者颇为相似。例如:“Summer in the Sprawl, the mall-crowds swaying like wind-blown grass; a field of flesh shot through with sudden eddies of need and gratification”(“Sprawl 的夏天,商场里的人群如风中的草一般摇曳;一片血肉之原,被突然涌现的欲望与满足的漩涡穿透”)。他的写作经常如此;感觉高度压缩,通过精心选择词汇,用尽可能少的字来传达一个想法。有意思的是,最近我觉得 LLM 们正在向 Gibson 式的语言靠拢。
查看原文

相似文章

为了内容而内容

Armin Ronacher

作者探讨了LLM如何影响编码和日常语言中的用词,发现LLM偏好的词汇在编程会话和Google Trends中出现的频率均有所增加,这引发了人们对人类开始采用LLM写作风格的担忧。