llm-slop

这项研究追溯了可辨识的大语言模型“AI 腔”风格（破折号、“不是 X，而是 Y”、三项列举、流行术语）在模型中的表征位置，以及哪个训练阶段使其形成，结果表明，监督微调（SFT）引入了这些修辞结构，而直接偏好优化（DPO）使“AI 腔”程度翻倍。随后，研究通过减去固定向量来消除“AI 腔”，并将这一操作蒸馏到秩为 16 的 LoRA 中，在不影响问答性能的情况下，将“AI 腔”评分降低了 83%。

一篇讨论帖，询问社区成员为 ICLR 审稿的经验，重点关注 AI 生成论文数量不断增加，以及在 OpenReview 上识别 AI 撰写的文本和“低质灌水”投稿变得越来越困难的问题。

JFrog研究人员揭穿了一个可疑GitHub仓库发布的一批SQLite CVE，发现这些公告很可能是LLM生成的劣质内容，其中包含不存在的代码引用和无法工作的PoC，促使NVD对漏洞进行降级处理。