以往的研究表明，它们在许多自然语言理解任务中处理否定时存在困难。在本研究中，作者提出了一种自监督方法，使语言模型对否定的鲁棒性更强。作者引入了一个新的任务，即下一句极性预测（NSPP），以及下一个句子预测（NSP）任务的一个变体。作者证明