利用属性引导的类型扩展扩展创意写作超越以故事为中心的数据
摘要
本文提出了一种属性引导的类型扩展框架,用于扩展创意写作数据超越以故事为中心的格式,创建一个多类型语料库,以提高语言模型在多样化创意任务上的性能。
arXiv:2608.13947v1 Announce Type: new
摘要: 对于大语言模型(LLMs),高质量的创意写作数据仍以以故事为中心的数据为主,限制了模型遵循多样化创意格式的结构和功能惯例的能力。我们提出了一种属性引导的类型扩展框架,用于扩展创意写作数据超越故事生成。通过将主题广度与类型形式控制分离,我们的框架利用人工编写的故事情节提示作为多样化的创意种子,同时使用手动策划的类型属性来强制执行独特的结构、风格和格式惯例。我们将这些结合起来,以提示强大的LLMs生成符合类型的问答对,然后进行质量过滤。应用此框架,我们构建了Multi-Genre Collection,这是一个包含50K个示例的语料库,涵盖13种创意类型,包括故事、说唱、歌词、剧本、游戏设计、角色设计和其他创意格式。在分布外写作基准和保留类型诊断上的实验表明,使用我们的数据微调的模型不仅持续超越基础模型和写作专用基线,还超越了在现有写作语料库上训练的模型。类型数量消融研究进一步表明,控制类型扩展,而不是仅仅以故事为中心的扩展,是强大创意写作能力的关键驱动因素。
查看缓存全文
缓存时间: 2026/08/17 09:49
# 通过属性引导的类型扩展实现超越故事中心数据的创意写作规模化 来源:https://arxiv.org/html/2608.13947 ## 通过属性引导的类型扩展实现超越故事中心数据的创意写作规模化 会议:第35届ACM国际信息与知识管理会议论文集;2026年11月7–11日;意大利罗马。 第35届ACM国际信息与知识管理会议论文集(CIKM '26),2026年11月7–11日,意大利罗马 ISBN:979-8-4007-2539-5/2026/11 DOI:10.1145/3799682.3839976 (https://doi.org/10.1145/3799682.3839976) CCS:计算方法学 自然语言生成 Hwan Chang OrcID:0009-0009-3954-1975 (https://orcid.org/0009-0009-3954-1975) 注:工作于LG AI Research实习期间完成。 隶属:韩国首尔中央大学 邮箱:[[email protected]](mailto:[email protected]) Yongil Kim 隶属:韩国首尔LG AI Research 邮箱:[[email protected]](mailto:[email protected]) Heuiyeen Yeen 隶属:韩国首尔LG AI Research 邮箱:[[email protected]](mailto:[email protected]) Yireun Kim 隶属:韩国首尔LG AI Research 邮箱:[[email protected]](mailto:[email protected]) Jinsik Lee 隶属:韩国首尔LG AI Research 邮箱:[[email protected]](mailto:[email protected]) 以及 Hwanhee Lee OrcID:0000-0002-9367-9811 (https://orcid.org/0000-0002-9367-9811) 注:通讯作者。 隶属:韩国首尔中央大学 邮箱:[[email protected]](mailto:[email protected]) 2026; © cc ###### 摘要 用于语言模型的高质量创意写作数据仍以故事为中心,这限制了模型遵循多样化创意格式的结构与功能规范的能力。我们提出一种**属性引导的类型扩展框架**,用于将创意写作数据的规模化扩展至故事生成之外。通过将主题广度与类型形式控制分离,该框架利用人类创作的故事提示作为多样的创意种子,同时使用手动策划的类型属性来强制执行独特的结构、风格和格式规范。我们将这些结合起来,以提示强大的模型生成符合类型的查询-响应对,随后进行质量过滤。应用此框架,我们构建了**多类型集合**,这是一个包含5万实例的语料库,涵盖13种创意类型,包括故事、歌词、游戏设计及其他创意格式。实验证明,基于我们数据微调的模型不仅能持续超越基线模型和写作专用基线,还能超越在现有写作语料库上训练的模型。类型数量消融实验进一步表明,类型扩展是驱动健壮创意写作能力的关键因素。 ###### 关键词: 创意写作,合成数据生成,大型语言模型,多类型数据集 ††cc-许可证:by  **图1**。我们的属性引导多类型扩展框架概述。通过注入策划的类型属性,主题种子被转化为多样化的输出。  **图2**。属性引导的类型扩展流程。我们从现有的故事提示中采样少样本示例以保持主题多样性,随机采样子集类型特定属性以注入结构约束,并通过组合任务指令、少样本演示、目标类型和采样属性来生成多类型查询。 ## 1\.引言 创意写作是大型语言模型(LLM)最突出的应用场景之一,占据了现实世界交互的很大一部分。然而,现有的公共资源仍严重以故事为中心,很大程度上将创意写作视为叙事生成。然而,现实世界的创意写作远不止故事:用户要求模型创作说唱歌词、游戏设计文档以及其他创意格式。这些类型不仅在主题或风格上不同,还在其结构和功能规范上存在差异——说唱需要押韵方案和节奏,电影剧本依赖叙事弧线和对话,游戏设计文档需要机制和玩家交互。因此,主要基于故事中心数据训练的模型可能学习了丰富的叙事内容,却无法遵循实际创意写作任务中预期的特定类型的结构和功能约束。 然而,仅仅扩大故事中心数据的规模无法解决这些结构性缺口,因为它未能系统性地编码非故事类型的正式约束。现有的合成指令生成方法通过引导种子任务、进化指令或大规模重写问题提供了一个自然的起点。然而,许多成功的应用针对的是通用指令遵循或可验证领域,如代码和数学,其中难度、正确性或解决方案有效性可以通过种子示例、可执行约束、最终答案或问题转换来近似。创意写作缺乏这种紧凑的有效性信号。直接应用通用合成流程可能导致生成的主题多样但形式上定义不足的提示,因为类型保真度取决于人类可识别的规范,如歌词节奏、剧本格式和游戏机制。这些局限性表明,创意写作数据生成不仅需要人工指导进行质量过滤,还需要定义生成应遵循的类型形式约束。 为弥合这一差距并有效扩展创意写作能力,我们确定了三个关键要求。首先,需要**系统性的类型覆盖**来代表用户实际请求的创意格式范围。其次,需要**类型形式保真度**,因为每种类型施加了不同的结构、风格、功能和格式约束。第三,需要**规范多样性**,因为真实的写作指令自然范围从开放式请求到高度受限的提示。这些要求呼唤一种可控的方法,将故事中心的创意提示扩展为符合类型的指令数据。 为应对这一挑战,我们提出了**属性引导的类型扩展**,这是一种受控生成框架,用于将创意写作数据规模化扩展至超越故事中心源。我们的框架与合成指令生成相关,但其控制轴不同:我们不是主要通过任务复杂度或问题变化来进化提示,而是将主题变化与类型形式控制分离。人类创作的故事提示提供多样化的创意种子,而手动策划的属性指定每种目标类型的规范。对于每种类型,我们从策划的r/WritingPrompts资源池中抽取种子,并采样其属性子集,然后将其与目标类型组合以生成符合类型的写作查询。查询与来自强大LLM的响应配对,并经过质量过滤以产生可靠的查询-响应数据。应用此框架,我们构建了**多类型集合**,这是一个涵盖13种创意写作类型的5万实例语料库。 我们的实验表明,生成的数据在多个维度上提升了创意写作能力。基于**多类型集合**微调的模型持续优于其基础模型、写作专用LongWriter-glm4-9B基线,以及在现有写作语料库上训练的竞争对手模型,在所有流行基准测试中均表现出色。我们进一步发现,增加类型覆盖范围提高了输出新颖性:随着训练类型从仅故事增加到全部13种类型,新颖性指标一致提升。最后,使用独立的LLM评委和人类进行的评估证实,这些提升反映了真实的质量改进而非评估者偏见。 > 你是一个**{类型}**查询生成器。\{task\_instruction\}(指南:创建独特的场景)。在构建每个查询时,结合以下具体维度:\{genre\_attribution\}(采样0∼\~len(genre\_attribute)个类型特定属性) > 从下面的示例中汲取主题灵感,但用适合**{类型}**的新视角重新构想它们。 > \{few\_shot\}(从现有的故事生成查询池中采样以保证主题多样性) **图3**。抽象结构化元提示模板。  我们将多类型集合的构建表述为一个属性引导的类型扩展过程,旨在将创意写作规模化扩展至超越故事中心数据。我们的框架不是直接为每种创意类型收集提示,而是从一个故事中心的人类创作种子池开始,通过图2所示的三阶段过程生成符合类型的创意写作查询-响应对。实例化此过程产生了一个涵盖13种创意类型的英文语料库。 形式上,令\(q^g,y\)表示类型\(g\)的查询-响应对(例如,\(q^{rap}=\)“写一段关于城市孤独的说唱歌词,采用AABB押韵方案”)。先前的写作数据集严重集中于\(g=story\);我们的目标是通过属性引导的类型扩展,为每种目标类型生成新查询,以扩展故事写作之外的覆盖范围。 令\(X=\{(q_i^{story},y_i)\}_{i=1}^n\)表示从种子数据集采样的少样本示例,并令\(A \subseteq A_g\)表示类型\(g\)的类型特定属性子集。我们通过模板\(\mathcal{T}\)(图3)构建元提示,并通过LLM生成查询: \(Q = \mathrm{LLM}\bigl(\mathcal{T}(g,X,A)\bigr)\)。 元提示\(\mathcal{T}(g,X,A)\)将来自人类创作数据的主题种子与类型特定结构约束统一起来。通过这种方式,该流程分离了两种变异来源:种子示例提供主题和风格广度,而采样类型属性控制目标类型的结构规范。 #### 源数据集选择。 我们选择Reddit社区论坛r/WritingPrompts作为\(q^{story},y\)对的种子数据集,因为它提供了主题多样性高且自然变化具体性的人类创作提示。为确保质量,我们使用GPT-5-mini应用了两个过滤器:(1) 安全过滤,移除了686个包含有害或不当内容的实例;(2) 无关内容移除,清理了861个离题片段(例如,元评论或子版块模板)。这个策划的种子池作为后续类型转移的主题多样性来源。 #### 步骤1:主题种子采样 对于每个模板实例化,我们从策划的种子数据集中随机采样\(n=5\)个查询-响应对作为主题种子。这些种子将人类创作故事提示的主题和风格广度转移到非故事创意格式,为生成的查询提供驱动的主题多样性。 #### 步骤2:类型属性采样。 由于不同类型受不同结构规范支配,我们将**类型属性**定义为类型内查询可以有意义地变化的关键维度——例如,说唱的*押韵方案*和*节奏*,或电视剧的*叙事弧线*和*角色发展*。为构建这些属性,我们从百科全书参考(如维基百科)和创意写作手册中收集权威的类型定义,然后提示GPT-5从每个定义中提取结构化的属性列表。得到的属性均经过人工审查和修正,以验证每个属性是否反映该类型的真实结构规范,合并重叠属性,删除过于通用的属性,并添加自动提取遗漏的任何显著维度——确保覆盖范围和类型保真度,从而为每种类型\(g\)生成一组策划好的属性集\(A_g\)(5-15个属性)。为反映指令具体性的自然变化,我们采样\(k \sim \mathrm{Uniform}(0,\|A_g\|)\),然后随机选择一个子集\(A \subset A_g\),其中\(\|A\|=k\)。当\(k=0\)时,查询保持开放性;随着\(k\)增加,查询逐渐变得更受限。因此,属性采样充当了该流程中变化指令具体性同时保留特定类型结构的控制机制。 #### 步骤3:属性引导的配对合成。 给定少样本示例\(X\)和采样属性\(A\),我们提示GPT-5-mini(作为公式(1)中的查询生成器\(\mathrm{LLM}(\cdot)\))为每个模板实例化生成五个查询。为进一步促进多样性并缓解模型崩溃,我们采用**语言化采样**——明确指示模型生成在主题、语气和结构上有所变化的输出。然后,我们使用Qwen3-235B-A22B-Thinking生成响应。为过滤低质量响应,我们采用独立的LLM作为评判者,使用Qwen3-30B-A3B-Instruct评估响应质量,并排除分数低于平均值两个标准差的配对。 **图4**。多类型集合中的类型分布。  **图5**。多类型集合的t-SNE可视化。  实例化上述流程产生了多类型集合,一个包含5万实例的创意写作语料库,在目标类型间平衡覆盖(图4)。'其他'类别涵盖了长尾
相似文章
迈向人类级别的书籍写作能力
本文介绍了一个数据集和训练框架,将人类创作的小说转换为多分辨率规划支架,使长上下文语言模型能够生成具有更类似人类散文和叙事动力的书籍规模小说。
和弦符号时间序列自适应能携带多少流派特征?多流派和弦符号建模的能力与边界
本文评估了小型自适应接口(LoRA、IA3、BitFit、前缀调优、全微调)如何将冻结的Music Transformer扩展到11个目标流派进行和弦符号时间序列建模。结果显示,虽然和声预测一致性提升,但流派特征表示有限,结论表明仅靠和弦符号不足以捕捉完整的流派特征。
探索用于模型特化的自主代理数据工程
本文形式化了自主代理数据工程,其中LLMs作为自主数据工程师,为特定领域策划和优化训练数据,使用GPT-5.2使学生模型性能提升了57.29%。
在中间训练阶段使用自生成数据可提升语言模型中强化学习的性能
本文探讨了在大型语言模型的中间训练阶段使用多样化的自生成数据如何提高强化学习的有效性,尤其是在推理任务方面。
超越大语言模型:从叙事文本生成因果图的语言学方法
本文提出了一种混合框架,结合了LLM摘要、语言学基础的专家指数(Expert Index)以及STAC分类,用于从叙事文本生成因果图,在基准故事上超越了GPT-4o和Claude 3.5。