实验室动态

[ACL 2023] Leveraging Denoised Abstract Meaning Representation for Grammatical Error Correction

[ACL 2023] Leveraging Denoised Abstract Meaning Representation for Grammatical Error Correction

论文简介:曹和景关于语义信息增强文法纠错的论文《Leveraging Denoised Abstract Meaning Representation for Grammatical Error Correction》被ACL 2023 findings接收。

文法纠错(Grammatical Error Correction, GEC)是将错误句子纠正为语法正确、语义一致的连贯句子的任务。主流的 GEC 模型要么使用大规模合成语料库预训练,要么使用大量人为设计的规则作为额外知识。前者的训练成本很高,而后者需要相当多的人类专业知识。近年来,抽象意义表示(Abstract Meaning Representation, AMR)由于其完备性和灵活性而被许多自然语言任务广泛使用。含有语法错误句子的 AMR 可能并不完全可靠,我们提出结合去噪 AMR 作为附加知识的模型:AMR-GEC。具体来说,我们设计了一个注意力语义聚合的 GEC 模型并使用图掩码的去噪方法以使 AMR 更可靠。BEA-2019和 CoNLL-2014 文法纠错任务的实验表明,在训练速度加快30%的情况下,AMR-GEC 的性能与一组具有大量伪数据的强基线相当。据我们所知,这是第一个将 AMR 用于文法纠错的研究工作。