基于强化语义中文广告文本识别技术研究.pdf

第31卷第3期 计算机技术与发展
2021 年 3 月 COMPUTER TECHNOLOGY AND DEVELOPMENT Mar. 2021
基于强化语义的中文广告文本识别技术研究
赵 伟1,邓叶勋2,赵建强2,3*， 李文瑞1,韩 冰1， 欧荣安1
(，广东广州510030；
，福建厦门361008；
，陕西西安710071)
摘要:互联网是广告推广的重要媒介，但是低质、诈骗、违法等违规广告也大量充斥其中，严重污染网络空间，因此，实现
恶意广告的有效甄别对构建安全清朗的网络环境意义重大。针对各类违法违规中文广告内容的识别需求，利用Bert(bidi-
rectional encoder representation from transformers)和 Word2vec分别提取文本字粒度和词粒度嵌入特征，使用CNN
(convolutional neural networks)网络对Bert高层特征做深层抽取，同时将词粒度特征向量输入到双向LSTM( long short-
term memory)网络提取全局语义,并采用Attention机制对语义特征强化，将强化特征和Bert字粒度特征进行融合，充分利
用动态词向量和静态词向量的语义表征优势，提出一种基于强化语义的中文广告识别模型CARES(Chinese advertisement
text recognition based on enhanced semantic) o在真实的社交聊天文本数据集上的实验表明，与使用卷积神经网络、循环神
经网络等文本分类模型相比,CARES模型分类性能最优，能更加精确识别社交聊天文本中的广告内容，模型识别的正确率
达到 97. 73%。
关键词:广告文本分类;语义强化;特征融合;预训练;注意力机制
中图分类号：TP391. 1 文献标识码：A 文章编号： 1673-629X(2021 )03-0065-05
doi： 10. 3969