基于深度学习的专利分类方法

doi:10.19678/j.issn.1000-3428.0048159

计算机工程 ›› 2018, Vol. 44 ›› Issue (10): 209-214.doi: 10.19678/j.issn.1000-3428.0048159

基于深度学习的专利分类方法

马建红,王瑞杨,姚爽,刘双耀

河北工业大学计算机科学与软件学院,天津 300401

收稿日期:2017-07-29 出版日期:2018-10-15 发布日期:2018-10-15
作者简介:马建红(1965—),女,教授、博士,主研方向为计算机辅助创新设计、TRIZ软件工程;王瑞杨,硕士研究生;姚爽,助理研究员、硕士;刘双耀,硕士研究生。

Patent Classification Method Based on Depth Learning

MA Jianhong,WANG Ruiyang,YAO Shuang,LIU Shuangyao

School of Computer and Engineering,Hebei University of Technology,Tianjin 300401,China

Received:2017-07-29 Online:2018-10-15 Published:2018-10-15

摘要/Abstract

摘要： 现有的效应概念图匹配方法多数存在匹配容错性差的问题。为此,从大数据的角度提出一种新的挖掘专利与效应对应关系的方法。利用长短期记忆网络(LSTM)与基于attention的双向LSTM相结合形成模型训练专利语料,通过Softmax分类模型进行分类,得到专利所属的效应。实验结果表明,该方法利用Bi-LSTM-ATT模型进行训练对判定专利所属效应具有一定的可用性,准确率可以达到70%以上。

关键词: 深度学习, attention机制, Bi-LSTM-ATT模型, 专利分类, 产品创新

Abstract: The existing concept graph matching methods have the problem of poor matching fault tolerance.Therefore,this paper proposes a new method to explore the relationship between patent and effect.Long Short-term Memory(LSTM) is used to combine with bidirectional LSTM which based on the attention mechanism to train the patent corpus.The Softmax classification model is used to classify the patent and the effect of the patent is obtained.Experimental results show that the method uses the Bi-LSTM-ATT model to train has certain validity in determining the effect of patents,and the accuracy can reach more than 70%.

Key words: depth learning, attention mechanism, Bi-LSTM-ATT model, patent classification, product innovation

中图分类号:

TP18

马建红,王瑞杨,姚爽,刘双耀. 基于深度学习的专利分类方法[J]. 计算机工程, 2018, 44(10): 209-214.

MA Jianhong,WANG Ruiyang,YAO Shuang,LIU Shuangyao. Patent Classification Method Based on Depth Learning[J]. Computer Engineering, 2018, 44(10): 209-214.

参考文献

［1］MURPHY J,FU K,OTTO K,et al.Function based design-by-analogy:a functional vector approach to analogical search［J］.Journal of Mechanical Design,2014,136(10).br/ ［2］王朝霞.专利知识获取及其支持概念创新设计的方法研究［D］.杭州:浙江大学,2009.br/ ［3］冀瑜,邱清盈,冯培恩,等.国际专利分类表中设计知识的提取和利用［J］.浙江大学学报(工学版),2016,50(3):412-418,427.br/ ［4］ZHU X,SOBHANI P,GUO H.Long short-term memory over tree structures［EB/OL］.［2017-06-21］.https://www.researchgate.net/.br/ ［5］TAI K S,SOCHER R,MANNING C D.Improved semantic representations from tree-structured long short-term memory networks［J］.Computer Science,2015,5(1):36.br/ ［6］WANG Y,HUANG M,ZHU X,et al.Attention-based LSTM for aspect-level sentiment classification［C］//Proceedings of Conference on Empirical Methods in Natural Language Processing.Washington D.C.,USA:IEEE Press,2016:606-615.br/ ［7］RAFFEL C,ELLIS D P W.Feed-forward networks with attention can solve some long-term memory problems［EB/OL］.［2017-06-21］.http://pdfs.semanticsc holar.org.br/ ［8］YANG Z,YANG D,DYER C,et al.Hierarchical attention networks for document classification［C］//Proceedings of Conference of the North American Chapter of the Association for Computational Linguistics:Human Language Tech-nologies.Washington D.C.,USA:IEEE Press,2017:1480-1489.br/ ［9］孟欣,左万利.基于word embedding的短文本特征扩展与分类［J］.小型微型计算机系统,2017,38(8):1712-1717.br/ ［10］GERAEV S.Longshort-termmemory［J］.Neural Computa-tion,1997,9(8):1735-1780.br/ ［11］GERAEV A.Supervised sequence labelling with recurrent neural networks［M］.Berlin,Germany:Springer,2012.br/ ［12］LIPTON Z C,BERKOWITZ J,ELKAN C.A critical review of recurrent neural networks for sequence learning［EB/OL］.［2017-06-21］.http://zacklipton.com/media/papers/.br/ ［13］LECUN Y,BENGIO Y,HINTON G.Deep learning［J］.Nature,2015,521(7553):436-444.br/ ［14］JOZEFOWICZ R,ZAREMBA W,SUTSKEVER I.An empirical exploration of recurrent network architectures［C］//Proceed-ings of the 32nd International Conference on Machine Learning.Washington D.C.,USA:IEEE Press,2015:2342-2350.br/ ［15］张青,吕钊.基于主题扩展的领域问题分类方法［J］.计算机工程,2016,42(9):202-207.br/ ［16］李杰锋,沈星,杨学永.形状记忆合金在变体机翼中的应用现状［J］.材料导报,2014,28(7):104-108.br/

[1]	刘瑄, 池明旻. 基于多粒度特征蒸馏的遥感图像场景分类研究[J]. 计算机工程, 2021, 47(1): 224-229,238.
[2]	徐龙壮, 彭力, 朱凤增. 多任务金字塔重叠匹配的行人重识别方法[J]. 计算机工程, 2021, 47(1): 239-245,254.
[3]	王润涵, 李兵, 滕奇志. 基于卷积神经网络的岩心FIB-SEM图像分割算法[J]. 计算机工程, 2021, 47(1): 264-274.
[4]	王嘉庆, 梅礼晔, 张俊华. 基于深度学习的手骨X射线图像骨龄评估[J]. 计算机工程, 2021, 47(1): 291-297.
[5]	李兰, 郑雨薇, 魏少玮, 胡克勇. 基于注意力机制的商家招牌分类研究[J]. 计算机工程, 2021, 47(1): 305-311.
[6]	姜妍, 张立国. 面向深度学习模型的对抗攻击与防御方法综述[J]. 计算机工程, 2021, 47(1): 1-11.
[7]	韩虎, 赵启涛, 孙天岳, 刘国利. 面向社交媒体评论的上下文语境讽刺检测模型[J]. 计算机工程, 2021, 47(1): 66-71.
[8]	尚迪雅, 孙华, 洪振厚, 曾庆亮. 基于无梯度进化的神经架构搜索算法研究综述[J]. 计算机工程, 2020, 46(9): 16-26.
[9]	张国令, 王晓丹, 李睿, 来杰, 向前. 基于栈式降噪稀疏自编码器的极限学习机[J]. 计算机工程, 2020, 46(9): 61-67.
[10]	辛伟瑶, 李剑, 王小亮, 李禹剑. 基于深度学习的地下浅层震源定位方法[J]. 计算机工程, 2020, 46(9): 292-297.
[11]	肖经纬, 田军委, 王沁, 程希希, 王佳. 基于改进残差网络的果实病害分类方法[J]. 计算机工程, 2020, 46(9): 221-225.
[12]	生龙, 马建飞, 杨瑞欣, 吴迪. 基于特征交换的CNN图像分类算法研究[J]. 计算机工程, 2020, 46(9): 268-273.
[13]	赵亚南, 刘渊, 宋设. 融合多头自注意力机制的金融新闻极性分析[J]. 计算机工程, 2020, 46(8): 85-92.
[14]	谢瑞, 邵堃, 霍星, MITHUN Md Masud Parvej. 一种改进的DIQaM_FR/NR图像质量评价模型[J]. 计算机工程, 2020, 46(8): 258-263,270.
[15]	熊亚辉, 陈东方, 王晓峰. 基于多尺度反向投影的图像超分辨率重建算法[J]. 计算机工程, 2020, 46(7): 251-259.

基于深度学习的专利分类方法

Patent Classification Method Based on Depth Learning

PDF

可视化

被引次数

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

Metrics

本文评价

推荐阅读 10