1 论文标题：BAG：基于注意力机制融合Bert和GCN的文本分类模型

2 作者信息：李 想, 汪 伟：上海理工大学机器智能研究院，上海；上海理工大学光电信息与计算机工程学院，上海；马致远*：上海理工大学机器智能研究院，上海；韩士洋：上海理工大学机器智能研究院，上海；上海理工大学机械工程学院，上海

3 出处和链接：李想, 马致远, 汪伟, 韩士洋. BAG：基于注意力机制融合Bert和GCN的文本分类模型[J]. 软件工程与应用, 2023, 12(2): 230-241. https://doi.org/10.12677/SEA.2023.122023

4 摘要：通过图的方式来建模文本分类任务是近年来研究的热点。现有基于图神经网络的方法虽然取得了一定的性能提升，但缺乏有效利用预训练语言模型获得的文本语义和图结构语义，且建图规模相对较大，由此带来的训练开销导致相关方法难以在低算力平台上使用。针对这些问题，在通过图神经网络构建传导式文本分类模型的过程中，利用注意力机制来融合异构图中的结构语义和预训练语言模型提供的字符级语义，在保留部分模型参数进行训练的基础上，提出了一种改进的文本分类模型BAG。实验结果表明，BAG能在更低显存的机器上进行训练，且在四个数据集上的准确率比其他文本分类模型更高。在对比同样基于图的TextGCN和BertGCN时，最高时分别高出10.82%和3.14%。

（投稿咨询请移步汉斯出版社公众号联系小编！）