基于深度学习的实体关系抽取的研究

Abstract

当今的互联网已蕴含了越来越多的知识,通过这些知识,我们不但可以构建庞大的知识库,还能将之运用于智能问答等诸多领域。因此如何搜集并运用这些知识俨然已经成为十分有意义的课题。我们知道,大部分知识都可由实体之间的关系所表示,因此从文本中挖掘知识的过程在一定程度上可以看作是抽取实体之间关系的过程。关于实体关系抽取的研究由来已久。不过最早的时候,人们仅仅是采用基于规则的方法来解决这一问题,这种方法在大多数情况下耗时耗力,且效果不佳。不过随着统计学习方法的崛起,人们运用机器学习技术在该问题上取得了不小的突破。而随着近些年来深度学习技术的不断发展,RNN、CNN等模型的不断提出,该问题的效果又得到了进一步的改善。本文使用了最新的深度学习技术,提取了词向量、上位词向量、词性以及相对位置四种特征,并分别采用了基于原始文本结构和基于依存分析结构两种策略来解决该问题。其中,前一种策略主要依靠基于RNN的Attention机制来捕获关键词信息,依靠CNN模型来捕获短语搭配信息。而后一种策略则是在依存分析路径上建立了CNN模型,和前一种策略相比虽增加了依存分析的预处理过程,然而由于其输入规模小,在训练速度上有着巨大的优势,而在最终结