论文浅尝 | 利用指针生成网络的知识图谱自然语言生成

论文笔记整理：谭亦鸣，东南大学博士，研究方向为知识图谱问答。

来源：Neurocomputing 382: 174-187 (2020)

链接：https://www.sciencedirect.com/science/article/abs/pii/S0925231219316820?via%3Dihub

指针生成网络在自然语言生成任务上表现出不错的性能，本文主要介绍的是自动生成KG中entity的描述生成任务，目标是对于输入的（来自KG）的entity及其属性（属性可以分为多种类型的slot）生成对应的自然语言文本描述。为了更加准确的利用自然语言生成过程中的copy机制（何时以及在什么位置copy源语言的内容），作者提出了一种可适应的指针生成网络模型KG2TEXT，在Person与Animal（来自WikiData，由Wang et al.提出的一种用于KG描述生成的数据集）的实验结果表明，该模型的性能达到了目前最优。

动机

实体描述生成（或者说几乎所有的自然语言生成）普遍存在的一个问题是新词的生成（或者说OOV），目前普遍的做法是将这些无法翻译（转换）的词通过copy添加到目标生成文本中。但是在生成过程的什么时候（when）以及什么位置（where）融合copy信息，是目前存在的一个挑战（无法准确处理when和where可能造成信息的重复生成或丢失）。因此，作者提出了一种基于可适应指针生成网络的模型，利用可变的覆盖损失函数在生成自然语言描述时尽可能多的覆盖实体的“属性-值”对。此外