标题

基于语义层次图的推理进行事实查证

作者和出处

The School of Data and Computer Science, Sun Yat-sen University（中山大学数据与计算机科学学院），Guangdong Key Laboratory of Big Data Analysis and Processing, Guangzhou, P.R.China（广东省大数据分析处理重点实验室，广州），Microsoft Research MOE Key Lab of Computational Linguistics, Peking University（北京大学微软计算语言学教育部重点实验室）

摘要

事实核查是一项具有挑战性的任务，因为验证一个主张的真实性需要对多个可检索的证据进行推理。在这项工作中，我们提出了一种适合对证据的语义层次结构进行推理的方法。与大多数先前的工作不同，这些工作通常使用字符串拼接或融合孤立证据句子的特征来表示证据句子，我们的方法操作的是通过语义角色标注获得的证据的丰富语义结构。我们提出了两种机制来利用证据结构，同时利用预训练模型（如 BERT、GPT 或 XLNet）的进展。具体来说，以 XLNet 为基础，我们首先利用图结构重新定义单词的相对距离，直观上，语义相关的单词应该具有较短的距离。然后，我们采用图卷积网络和图注意力网络从图中的相邻节点传播和聚合信息。我们在事实核查的基准数据集 FEVER 上评估我们的系统，并发现丰富的结构信息是有帮助的，而且我们的基于图的机制都提高了准确性。我们的模型在官方评估指标，即主张验证准确性和 FEVER 得分方面都是最先进的系统。

引言和结论

我们提出了一种基于图的推理方法进行事实核查。我们的系统使用语义角色标注（SRL）来构建图，并提出了两种基于图的表示学习机制。结果证实，两种基于图的机制都提高了准确性，我们的最终系统在 FEVER 数据集上实现了最先进的性能

方法

句子级别证据选择

该模块以一个Claim和所有文档取回的句子作为输入，返回前k个最相关的句子。
用第i个向量的CLS表式$ce_i=[Claim,SEP,Evidence_i,SEP,CLS]$送入一个MLP中计算最终的得分，然后取前5个。

个人感悟

不开源毛用没有