COBART: 用于广告标题生成的受控、优化、双向和自回归Transformer

# 受控、优化、双向自回归Transformer在广告标题生成中的应用

来源：https://arxiv.org/html/2607.08071
，Gyanendra Das（亚马逊印度）、Pooja A（亚马逊印度）和Sumit Negi（亚马逊印度）

###### 摘要。

在线广告对所有企业都至关重要，而广告标题是其核心创意组成部分之一。现有方法可以自动生成标题，并优化其点击率（CTR）和质量。然而，不断演进的广告格式和不断变化的创意需求使得生成优化且定制化的标题变得困难。我们提出了一种新颖方法，该方法使用前缀控制标记（prefix control tokens）结合BART（Lewis等人，2019 (https://arxiv.org/html/2607.08071#bib.bib17)）微调。它能够产生最高的点击率（CTR），同时允许用户控制生成标题的长度，以便用于不同的广告格式。该方法也很灵活，可以轻松适应其他架构、创意需求和优化标准。我们的实验表明，与之前发表的强大广告标题生成基线相比，Rouge-L提升了25.82%，估计CTR提升了5.82%。

广告生成；受控生成；赞助广告；广告优化；标题生成；电子商务

††会议：第28届ACM SIGKDD知识发现与数据挖掘会议；2022年8月14日至18日；美国华盛顿特区††DOI：10.1145/3534678.3539069††CCS：计算方法 → 自然语言生成††CCS：信息系统 → 在线广告请参考图注 图1。来自互联网的广告，具有不同的标题。这些包括纯文本广告、图片+文字广告或视频广告中嵌入标题的截图。标题的长度、信息和广告意图各不相同。有些标题信息丰富且不含形容词，有些简短，而另一些则往往更长。输入（单条广告包含多个产品；显示两个）产品1：Boyd’s Cosmetics NYC - No Lines Temporary Wrinkle Remover with our Brush It Away Medium ...产品2：No Lines Temporary Wrinkle Remover ...生成的标题UniLM：Boyd’s New York City CosmeticsBART：New & improved anti-aging with our brushCOBART长度→\\rightarrowCTR↓\\downarrow短 中 长低（桶1/15）Boyd’s Cosmetics NYC - No LinesSave Now on New York City CollectionsNo Lines Temporary Wrinkle Remover with Brush It Away中（桶7/15）Shop Boyd’s NYC, No Lines RemoverTackle Fine Lines & Wrinkles with Boyd’s NYCBoyd’s Cosmetics NYC - No Lines Temporary Wrinkle Remover高（桶15/15）Shop New York City’s #1 Makeup BrandNew & improved anti-aging with our brush - Boyd’s NYCA New Generation of Makeup That Targets Fine Lines with a New Look表1。针对多产品广告的广告标题生成。我们的方法允许在推理过程中**控制**和**优化**标题的长度和点击率（CTR）。

## 1. 引言

在线广告是一个不断发展的领域，现已融入所有企业。世界各地的组织利用广告来提高其业务的发现率和覆盖范围。电子商务平台上的卖家使用在线广告来建立品牌知名度，并将购物者与他们的产品联系起来。

广告的关键组成部分之一是“标题”。标题是所有广告格式（包括文字、图片和视频广告）的一部分，如图1 (https://arxiv.org/html/2607.08071#S0.F1)所示。它们总结了核心产品属性，并促使客户互动。它们也可能是购物者对产品/品牌的首次预览。因此，拥有合适的风格和吸引力对于吸引购物者注意力至关重要。风格和内容并不是生成标题的唯一因素。长度对于不同格式的广告以及目标设备屏幕尺寸同样重要。长标题用于文字广告，中等长度标题与图片一起展示，而较短的标题通常叠加在图片和视频上。仅限移动端的广告格式也鼓励使用较短标题的文字广告。

语言障碍、购物者兴趣差异、市场趋势、季节性趋势、产品库存变化、风格偏好变化等增加了问题的复杂性和规模。随着产品目录快速演变，有时包含数十亿种产品，手动编写此类标题是不可行的，需要大量人力。产品目录中的内容质量也可能存在很大差异。这使得将其用作参考变得困难，导致关键词堆砌和糟糕的标题。因此，大规模地为不同产品、广告格式和需求编写这些标题是困难的。

仅仅自动化标题生成过程是不够的。衡量标题吸引力和参与度的关键指标之一是点击率（CTR）。它是标题获得点击次数与显示次数的比率。因此，理想的标题需要自动生成，满足平台和政策要求，满足创意需求（长度、风格等），并产生较高的CTR。此外，任何实际解决此问题的自动化解决方案都需要高度可扩展和可扩展，以满足广泛的需求。

我们提出了一种新颖的方法，用于微调预训练的双向自回归Transformer（BART）（Lewis等人，2019 (https://arxiv.org/html/2607.08071#bib.bib17)）模型，以为多个输入产品生成广告标题。该方法联合学习使用特殊控制标记（control tokens）来控制和优化标题的任何期望特征，如CTR和长度。这些控制标记作为输入提供给双向编码器，并允许条件化编码器和解码器的注意力机制，以控制CTR和长度。我们比较了我们提出的方法与其它最先进的受控生成方法（Hu等人，2018 (https://arxiv.org/html/2607.08071#bib.bib10)）、其它广告标题生成方法（Kanungo等人，2021 (https://arxiv.org/html/2607.08071#bib.bib13)）以及多个其它基线和消融实验。表1 (https://arxiv.org/html/2607.08071#S0.T1) 展示了一个示例广告，其中包含基线和我们的方法生成的标题。

我们的主要贡献是：

- •我们的方法允许用户在推理时控制和优化生成的期望特征。
- •我们的方法允许混合搭配多种特征。我们还展示了它可以与其他优化技术相结合，以进一步提高性能。
- •为了验证我们的提议，我们构建了广泛的基线，尝试了多种变体和消融实验，并展示了在Rouge-L和CTR上的显著改进。结果表明，有效使用控制标记来微调在没有控制标记的情况下预训练的语言模型是可能的。
- •因此，我们的提议使用一种具有多种实际应用的新颖方法，解决了一个大规模的现实世界问题。它也不会对模型推理延迟产生任何负面影响，并且可以以最小的更改取代现有方法。

## 2. 相关工作

**自然语言生成。** 近年来，基于Transformer（Vaswani等人，2017 (https://arxiv.org/html/2607.08071#bib.bib27)）的自然语言生成（NLG）方法展现出了巨大潜力。它们涵盖了Transformer编码器和解码器的所有可能组合，包括仅编码器NLG（Dong等人，2019 (https://arxiv.org/html/2607.08071#bib.bib6)）、仅解码器NLG（Brown等人，2020 (https://arxiv.org/html/2607.08071#bib.bib4)）、编码器-解码器NLG（Lewis等人，2019 (https://arxiv.org/html/2607.08071#bib.bib17)；Qi等人，2020 (https://arxiv.org/html/2607.08071#bib.bib20)；Raffel等人，2020 (https://arxiv.org/html/2607.08071#bib.bib21)；Song等人，2019 (https://arxiv.org/html/2607.08071#bib.bib25)）、组合不同预训练模型（Rothe等人，2020 (https://arxiv.org/html/2607.08071#bib.bib23)）以及联合预训练（Song等人，2019 (https://arxiv.org/html/2607.08071#bib.bib25)）。方法（Aribandi等人，2021 (https://arxiv.org/html/2607.08071#bib.bib2)；Raffel等人，2020 (https://arxiv.org/html/2607.08071#bib.bib21)）表明，可以使用任务特定的前缀来训练一个模型用于多个任务。所有这些方法都通过隐式生成更好的标题，优于早期基于LSTM+注意力（See等人，2017 (https://arxiv.org/html/2607.08071#bib.bib24)）的方法。这些方法可用于标题生成，但它们不会执行额外的优化来提高CTR或控制生成。

**受控自然语言生成。** 在（Hu等人，2018 (https://arxiv.org/html/2607.08071#bib.bib10)）中，作者提出在生成器-判别器设置中使用基于LSTM的VAE，以条件化生成器的输出于VAE和一个额外的语义风格代码，从而控制生成。然而，他们的目标是独立控制每个特征。CTRL（Keskar等人，2019 (https://arxiv.org/html/2607.08071#bib.bib14)）提出将仅解码器语言模型（LM）的输出条件化在特定的控制代码上，以增强生成。与编码器-解码器模型（如Lewis等人，2019 (https://arxiv.org/html/2607.08071#bib.bib17)）相比，仅解码器模型在条件文本生成方面灵活性较差。PPLM（Dathathri等人，2020 (https://arxiv.org/html/2607.08071#bib.bib5)）将基于Transformer的LM与来自不同主题选择的词袋相结合，以改变风格。FUDGE（Yang和Klein，2021 (https://arxiv.org/html/2607.08071#bib.bib32)）使用贝叶斯分解来建模风格条件LM，而不是直接建模条件生成。MuCoCo（Kumar等人，2021 (https://arxiv.org/html/2607.08071#bib.bib16)）将预训练LM与可微约束相结合，将生成构建为约束优化问题并控制生成。然而，它对于实际部署来说相对较慢。

**标题生成。** 标题生成类似于其他文本到文本生成任务，如摘要。所讨论的NLG方法可以应用于标题生成，并且各种方法提出了使用通用Transformer（Gavrilov等人，2019 (https://arxiv.org/html/2607.08071#bib.bib7)）、编码文本结构以生成更好的标题（Zhang等人，2020 (https://arxiv.org/html/2607.08071#bib.bib33)）或使用基于强化学习（RL）的技术结合基于Transformer的架构（Kanungo等人，2021 (https://arxiv.org/html/2607.08071#bib.bib13)）来提高生成质量。如前所述，标题的吸引力可以通过它们产生的CTR来判断。优化后的标题产生更高的CTR。基于强化学习（RL）的技术，如Actor-Critic、自临界序列训练（SCST）（Rennie等人，2017 (https://arxiv.org/html/2607.08071#bib.bib22)）等，已被证明在与LSTM结合使用时可以改善广告标题生成的CTR（Hughes等人，2019 (https://arxiv.org/html/2607.08071#bib.bib11)；Song等人，2020 (https://arxiv.org/html/2607.08071#bib.bib26)；Xu等人，2019 (https://arxiv.org/html/2607.08071#bib.bib31)）。（Jin等人，2020 (https://arxiv.org/html/2607.08071#bib.bib12)）提出使用依赖于风格的层归一化和Transformer-Query变换来转换标题。然而，这些方法要么隐式地提高生成质量，不允许在推理时进行显式控制，要么不利用域内数据点和观察到的CTR。

在我们的方法中，我们使用特征控制标记（COBART：第3.1节 (https://arxiv.org/html/2607.08071#S3.SS1)）扩展了BART编码器-解码器架构（Lewis等人，2019 (https://arxiv.org/html/2607.08071#bib.bib17)）。为了评估我们的方法，我们还创建了另外两个优化CTR的BART替代扩展。第一个（SCBART：第3.2节 (https://arxiv.org/html/2607.08071#S3.SS2)）使用自临界训练（Rennie等人，2017 (https://arxiv.org/html/2607.08071#bib.bib22)）。第二个扩展（VBART：第3.3节 (https://arxiv.org/html/2607.08071#S3.SS3)）使用带有生成器和判别器的变分Transformer编码器（Hu等人，2018 (https://arxiv.org/html/2607.08071#bib.bib10)）。

## 3. 方法

每条广告由一组一个或多个产品PP组成，使得第ii个产品由其标题中的标记表示xi=(x1i,x2i...x‖xi‖i)x\_{i}=(x^{i}\_{1},x^{i}\_{2}\\ldots x^{i}\_{\\|x\_{i}\\|})。

在训练期间，我们可以访问原始广告标题标记H=(h1,h2...h‖h‖)H=(h\_{1},h\_{2}\\ldots h\_{\\|h\\|})。我们还有每个标题的一组观察或计算特征Φ={φ1,φ2...φ‖Φ‖}\\Phi=\\\{\\phi\_{1},\\phi\_{2}\\ldots\\phi\_{\\|\\Phi\\|}\\}。这些特征的示例包括观察到的连续CTR值、标题中出现的离散单词数、标题广告所在的季节类别、品牌名称是否存在等二元变量等。

我们主要实验控制和优化标题的观察CTR（φctr\\phi\_{ctr}），并包括使用标题中单词数（φLength\\phi\_{Length}）的结果，而不会失去一般性。这两个方面定义了控制吸引力与语义（φctr\\phi\_{ctr}）以及标题结构（φLength\\phi\_{Length}）。

在推理期间，我们需要根据输入产品PP和期望的吸引力及长度水平生成标题H^=(h^1,h^2...h^‖h^‖)\\hat{H}=(\\hat{h}\_{1},\\hat{h}\_{2}\\ldots\\hat{h}\_{\\|\\hat{h}\\|})。

### 3.1. 受控与优化BART

双向自回归Transformer（BART）模型使用Transformer（Vaswani等人，2017 (https://arxiv.org/html/2607.08071#bib.bib27)）架构作为预训练的去噪自编码器。它使用一种新颖的文本填充方案与句子排列相结合进行预训练。对于一个原始句子 (x1x2x3.x4x5.x\_{1}x\_{2}x\_{3}.x\_{4}x\_{5}.)，BART 使用双向Transformer编码器编码 (x4x5.x1\_.x\_{4}x\_{5}.x\_{1}\\\_.)。然后，它将编码器的输出传递给一个自回归从左到右的Transformer解码器，该解码器通过填充 (x2,x3x\_{2},x\_{3}) 并将句子排列为正确顺序，重新生成原始句子 (x1x2x3.x4x5.x\_{1}x\_{2}x\_{3}.x\_{4}x\_{5}.)。

**无可控特征的标题生成。** 我们微调一个预训练的BART模型（Lewis等人，2019 (https://arxiv.org/html/2607.08071#bib.bib17)），遵循（Kanungo等人，2021 (https://arxiv.org/html/2607.08071#bib.bib13)）中使用的输入策略。我们输入产品标题标记 (x11,x21...x‖x1‖1x^{1}\_{1},x^{1}\_{2}\\ldots x^{1}\_{\\|x\_{1}\\|})，不同产品的标题使用一个原本未使用的分隔符标记连接起来。示例输入如下：

(1) X=(x11,x21,[SEP],x12,[SEP],x13)X=(x^{1}\_{1},x^{1}\_{2},[SEP],x^{2}\_{1},[SEP],x^{3}\_{1})
因此我们最小化损失：

(2) LBART=−log∏t=1‖H‖p(ht|h1:t−1,X)\\mathcal{L}\_{BART}=-\\log\\prod\_{t=1}^{\|H\|}p(h\_{t}|h\_{1:t-1},X)

**具有可控特征的标题生成。** 我们提出了一种简单但非常有效的扩充，以联合学习标题生成与特征优化。我们建议为每个我们希望优化和控制的特征Φ={φ1,φ2...φ‖Φ‖}\\Phi=\{\phi\_{1},\phi\_{2}\\ldots\\phi\_{\|\\Phi\|}\}，在输入前添加一个控制标记作为前缀。我们为每个标题计算特征Φ\\Phi。