实验室动态

[NAACL 2024] CASA: Causality-driven Argument Sufficiency Assessment

刘潇同学关于因果驱动的论证充分性评估的论文《CASA: Causality-driven Argument Sufficiency Assessment》被NAACL 2024接收。

论证充分性评估任务旨在确定给定论证的前提是否支持其结论。为了完成这项任务,现有的工作通常是在人工标注的数据上训练分类器。然而,注释数据非常费力,而且一致性较差。受因果文献中充分性概率(probability of sufficiency)定义的启发,我们提出了零样本因果驱动的论证充分性评估框架CASA。充分性概率衡量的是在前提和结论事件都不存在的情况下,引入前提事件导致结论的可能性有多大。为了估算这种可能性,我们先使用大语言模型生成与前提和结论均不一致的情境,然后通过干涉加入前提事件,再让模型对该情境其进行修改。在两个数据集上的实验表明,CASA能够准确识别论据不足的问题。我们进一步将 CASA应用到写作辅助中,发现CASA生成的建议提高了学生论文的充分性。