1 论文标题：融合DeBERTa模型与图卷积网络的文本分类方法研究

2 作者信息：刘 琪, 肖克晶*, 曹少中, 张 寒, 姜 丹：北京印刷学院信息工程学院，北京

3 出处和链接：刘琪, 肖克晶, 曹少中, 张寒, 姜丹. 融合DeBERTa模型与图卷积网络的文本分类方法研究[J]. 人工智能与机器人研究, 2024, 13(4): 715-725. https://doi.org/10.12677/airr.2024.134072

4 摘要：文本分类作为自然语言处理领域的一个核心任务，旨在实现对文本数据的自动化归类，使其对应到预先设定的类别之中。BertGCN模型结合了BERT和GCN两者的优势，从而能够有效地处理文本和图结构数据。然而，该模型在应对复杂的文本分类任务时，仍然存在一定的局限性。BERT使用绝对位置编码来表示每个词在序列中的位置，不能很好地捕捉句子中词语之间的相对关系，同时，BERT模型将词语的内容信息和位置信息结合在一起进行处理，可能导致模型难以区分这两种不同的信息。为了克服这些限制，我们提出了DeGraph-Net模型，通过引入DeBERTa模型，来提升文本分类的效果。DeBERTa使用相对位置编码，更好地表示词语间的相对位置关系。此外，DeBERTa将词语的内容信息和位置信息分开处理，避免了内容信息和位置信息的混淆，提高了模型分类的准确率。实验结果表明，DeGraph-Net模型在三个基准文本分类数据集上均取得了显著的性能提升，验证了该模型在复杂文本分类任务中的有效性。