无监督情感神经元

# 无监督情感神经元 来源：https://openai.com/index/unsupervised-sentiment-neuron/ 我们开发了一个无监督系统，仅通过训练预测亚马逊评论中的下一个字符，就学到了优异的情感表示。 使用这种表示的线性模型在广泛研究的小规模数据集斯坦福情感树库（Stanford Sentiment Treebank）上实现了最先进的情感分析准确率（我们获得91.8%的准确率，而之前的最佳成绩是90.2%），并且只需使用30-100倍更少的标注样本就能匹配之前的监督系统性能。我们的表示还包含一个独特的"情感神经元"，它包含了几乎所有的情感信号。 我们的系统在斯坦福情感树库上的表现优于其他方法，同时使用的数据量要少得多。 标注训练样本数量的图表 我们模型的两个变体（绿线和蓝线）达到完全监督方法性能所需的标注样本数量，每个方法使用6,920个样本进行训练（灰色虚线）。我们采用L1正则化的模型（在亚马逊评论上以无监督方式预训练）仅用11个标注样本就能匹配多通道CNN的性能，用232个样本就能匹配最先进的CT-LSTM集成模型。 我们对模型学到了一个可解释的特征感到非常惊讶，仅仅预测亚马逊评论中的下一个字符竟然能够发现情感的概念。我们认为这种现象不是我们模型特有的，而是大型神经网络的一般性质——当这些网络被训练来预测其输入中的下一步或下一维度时，就会出现这种现象。 我们首先在包含8,200万条亚马逊评论的语料库上训练了一个有4,096个单元的乘性LSTM，用来预测文本块中的下一个字符。训练耗时一个月，使用了四个NVIDIA Pascal GPU，我们的模型每秒处理12,500个字符。 这4,096个单元（只是一个浮点数向量）可以看作是代表模型读取字符串的特征向量。在训练mLSTM后，我们通过取这些单元的线性组合将模型转换为情感分类器，通过可用的监督数据学习组合的权重。 在使用L1正则化训练线性模型时，我们注意到它使用的学到的单元数量出人意料地少。深入研究后，我们发现实际上存在一个单独的"情感神经元"，它对情感值具有高度的预测性。 显示正负评论的情感神经元值的图表 就像类似的模型一样，我们的模型可以用于文本生成。与那些模型不同的是，我们有一个直接的拨盘来控制生成文本的情感：我们只需覆盖情感神经元的值。 下图代表了情感神经元的逐字符值，将负值显示为红色，正值显示为绿色。注意到像"*best*"或"*horrendous*"这样强烈指示性的词会引起特别大的颜色变化。 情感预测 情感神经元逐字符调整其值。 有趣的是，该系统也在句子和短语完成后进行大的更新。例如，在"*And about 99.8 percent of that got lost in the film*"中，"*lost*"后有一个负更新，句子末尾有一个更大的更新，即使"*in the film*"本身没有情感内容。 标注数据是当今机器学习的燃料。收集数据很容易，但大规模标注数据很困难。只有在奖励值得付出努力的重要问题上，如机器翻译、语音识别或自动驾驶，才能可行地生成标签。 机器学习研究人员长期以来梦想开发无监督学习算法，以学习数据集的良好表示，然后仅使用少数几个标注示例来解决任务。我们的研究表明，在大量数据上训练大型无监督的下一步预测模型可能是创建具有良好表示学习能力的系统时的一个好方法。 我们的结果是朝向通用无监督表示学习迈出的有前景的一步。我们通过探索是否可以将良好质量的表示学习作为语言建模的副作用而发现了这些结果，并在精心选择的数据集上扩展了现有模型。然而，其潜在现象仍然比清晰更神秘。 - 这些结果在长文档数据集上的表现并不理想。我们怀疑我们的字符级模型在数百到数千个时间步骤上记忆信息时感到困难。我们认为值得尝试可以调整其运行时间尺度的分层模型。进一步扩展这些模型可能会进一步改进表示保真度以及情感分析和类似任务的性能。 - 当输入文本偏离评论数据越远，模型表现越差。值得验证的是，扩大文本样本语料库是否会产生同样信息丰富的表示，并且也适用于更广泛的领域。 - 我们的结果表明，存在某些设置，其中非常大的下一步预测模型学到了优异的无监督表示。训练大型神经网络来预测大量视频集合中的下一帧，可能会产生用于对象、场景和动作分类器的无监督表示。 总的来说，理解模型、训练体制和数据集的特性非常重要，这些特性能够可靠地导致如此优异的表示。