ACL 2019 | 使用元词改进自然语言生成( 四 )

ACL 2019 | 使用元词改进自然语言生成

ACL 2019 | 使用元词改进自然语言生成

更有意思的是,如果逐渐增加元词中的属性变量,验证集上的PPL会逐渐降低,这也印证了“通过调整元词可以不断提升模型性能”的论断。

ACL 2019 | 使用元词改进自然语言生成

下图的两个例子也表明,通过本模型生成的响应具有更多的信息以及更好的连贯性。

ACL 2019 | 使用元词改进自然语言生成

3. 结论

本文提出了一个目标跟踪记忆增强的序列到序列模型,用于使用元词明确定义响应的特征进行开放域的响应生成。两个数据集的评估结果表明,本文的模型在响应质量和元词表达的准确性方面明显优于几个最先进的生成架构。

推荐阅读