报告题目:基于卷积编码器和改进的级联二元标注框架的快速关系抽取

发布者:邢婉秋发布时间:2022-08-06浏览次数:103

报告题目:基于卷积编码器和改进的级联二元标注框架的快速关系抽取

报告摘要最近关系抽取的相关研究工作取得了优异的性能。然而,大多数现有方法对效率关注较少,使得在现实场景中从海量或流式文本数据中快速抽取关系仍然具有挑战性。主要的效率瓶颈是这些方法使用基于Transformer的预训练语言模型进行编码,这严重影响了训练速度和推理速度。为了解决这个问题,我们提出了一种基于卷积编码器和改进的级联二元标注框架的快速关系抽取模型(FastRE)。与之前的工作相比,FastRE采用了多项创新来提高效率,同时保持了良好的性能。具体来说,FastRE采用了一种新的卷积编码器架构,结合了膨胀卷积、门控单元和残差连接等结构,显著降低了训练和推理的计算成本,同时保持了令人满意的性能。此外,为了改进级联二元标注框架,FastRE首先引入了一种实体类型-关系类型映射机制,以提高标记效率并缓解关系冗余,然后利用位置相关的自适应阈值策略来获得更高的标记精度和更好的模型泛化。实验结果表明,与最先进的模型相比,FastRE在效率和性能之间取得了很好的平衡,实现了3-10倍的训练速度、7-15倍的推理速度和1/100的参数,同时性能仍然具有竞争力。

个人介绍

李国正,男,东南大学计算机科学与工程学院硕士在读,指导老师汪鹏。