ELM算法中随机映射作用的实验研究

doi:10.3969/j.issn.1000-3428.2012.20.042

计算机工程 ›› 2012, Vol. 38 ›› Issue (20): 164-168. doi: 10.3969/j.issn.1000-3428.2012.20.042

ELM算法中随机映射作用的实验研究

翟俊海 ^1,2a，李塔 ^1,2a，翟梦尧 ^2b，王熙照 ^1,2a

(1. 河北省机器学习与计算智能重点实验室，河北保定 071002； 2. 河北大学 a. 数学与计算机学院；b. 工商学院，河北保定 071002)

收稿日期:2011-12-23 修回日期:2012-02-09 出版日期:2012-10-20 发布日期:2012-10-17
作者简介:翟俊海(1964－)，男，副教授、博士、CCF会员，主研方向：机器学习，计算智能，模式识别，小波分析；李塔，硕士研究生；翟梦尧，本科生；王熙照，教授、博士生导师
基金资助:
国家自然科学基金资助项目(61170040)；河北省自然科学基金资助项目(F2010000323, F2011201063, F2012201023)；河北省高等学校科学技术研究基金资助重点项目(ZD2010139)；河北大学自然科学基金资助项目(2011-228043)

Experimental Research on Random Mapping Function in ELM Algorithm

ZHAI Jun-hai^1,2a, LI Ta ^1,2a, ZHAI Meng-yao ^2b, WANG Xi-zhao^1,2a

(1. Key Lab of Machine Learning and Computational Intelligence of Hebei Province, Baoding 071002, China; 2a. College of Mathematics and Computer Science; 2b. Industrial and Commercial College, Hebei University, Baoding 071002, China)

Received:2011-12-23 Revised:2012-02-09 Online:2012-10-20 Published:2012-10-17

摘要/Abstract

摘要： 通过实验研究ELM算法中随机映射的作用及神经网络中隐含层结点个数对网络泛化能力的影响。在35个数据集上进行实验，针对不同的数据集，找到网络的最优精度所对应的隐含层结点个数。实验结果表明，当随机映射使数据升维到一定维数时，网络性能得到提高。

关键词: ELM算法, 随机映射, 神经网络, 隐含层偏置, 隐含层结点

Abstract: This paper studies the problem with experimental approach. It also investigates the impact of number of hidden layer nodes to generalization performance of Single Hidden Layer Feedforward Neural Network(SLFNN). Experiment on Extreme Learning Machine(ELM) with 35 databsets is made. For different databases, the optimal number of hidden layer nodes with respect to best test accuracy is found, and the performance of SLFNN can be improved by randomly mapping the data into a fixed high dimensional space with ELM algorithm.

Key words: Extreme Learning Machine(ELM) algorithm, random mapping, neural network, hidden layer bias, hidden layer node

中图分类号:

TP391

翟俊海, 李塔, 翟梦尧, 王熙照. ELM算法中随机映射作用的实验研究[J]. 计算机工程, 2012, 38(20): 164-168.

DI Dun-Hai, LI Da, DI Meng-Yao, WANG Xi-Zhao. Experimental Research on Random Mapping Function in ELM Algorithm[J]. Computer Engineering, 2012, 38(20): 164-168.

http://www.ecice06.com/CN/Y2012/V38/I20/164

参考文献

[1]Mitchell T M. 机器学习(英文影印版)[M]. 北京: 机械工业出版社, 2003.
[2]Kumar S. 神经网络(英文影印版)[M]. 北京: 清华大学出版社, 2006.
[3]Huang Guangbin, Zhu Qinyu, Siew C H. Extreme Learning Machine: Theory and Applications[J]. Neurocomputing, 2006, 70(1-3): 489-501.
[4]Wang Yuguang, Cao Feilong, Yuan Yubo. A Study on Effectiveness of Extreme Learning Machine[J]. Neurocomputing, 2011, 74(16): 2483-2490.
[5]José M M, Pablo E M, Emilio S O, et al. Regularized Extreme Learning Machine for Regression Problems[J]. Neurocomputing, 2011, 74(17): 3716-3721.
[6]Emilio S O, Juan G S, Martín J D, et al. BELM: Bayesian Extreme Learning Machine[J]. IEEE Transactions on Neural Networks, 2011, 22(3): 505-509.
[7]Mohammed A A, Minhas R, Jonathan Q M, et al. Human Face Recognition Based on Multidimensional PCA and Extreme Learning Machine[J]. Pattern Recognition, 2011, 44(10/11): 2588- 2597.
[8]Huang Guangbin, Wang Dianhui, Lan Yuan. Extreme Learning Machines: A Survey[J]. International Journal of Machine Learning and Cybernetics, 2011, 2(2): 107-122.
[9]Huang Guangbin, Chen Lei, Siew C H. Universal Approximation Using Incremental Constructive Feedforward Networks with Random Hidden Nodes[J]. IEEE Transactions on Neural Networks, 2006, 17(4): 879-892.
[10]Feng Guorui, Huang Guangbin, Lin Qingping, et al. Error Minimized Extreme Learning Machine with Growth of Hidden Nodes and Incremental Learning[J]. IEEE Transactions on Neural Networks, 2009, 20(8): 1352-1357.
[11]Miche Y, Sorjamaa A, Bas P, et al. OP-ELM: Optimally Pruned Extreme Learning Machine[J]. IEEE Transactions on Neural Networks, 2010, 21(1): 158-162.
[12]Rong Haijun, Ong Y S, Tan A H, et al. A Fast Pruned-extreme Learning Machine for Classification Problem[J]. Neurocomputing, 2008, 72(2): 359-366.

[1]	靳雁霞, 史志儒, 杨晶, 刘亚变, 乔星宇, 张翎. 布料与精细建模物体间的碰撞检测算法研究[J]. 计算机工程, 2023, 49(7): 269-277.
[2]	曹坪, 杨怀志, 薄一军, 尤嘉, 张淳杰, 李丹勇. 面向低质量裂缝图像的多知识蒸馏分类[J]. 计算机工程, 2023, 49(7): 204-213.
[3]	白明昌. 基于折叠路径聚合的属性网络节点嵌入方法[J]. 计算机工程, 2023, 49(7): 76-84.
[4]	赵世豪, 毛国君, 熊保平, 黄山, 林江宏. 基于图小波卷积神经网络的时空图挖掘模型[J]. 计算机工程, 2023, 49(7): 85-93.
[5]	廖涛, 孙皓洁, 张顺香. 基于跨度和特征融合的实体关系联合抽取模型[J]. 计算机工程, 2023, 49(6): 107-114.
[6]	于海洋, 景鹏, 张文涛, 谢赛飞, 滑志华, 宋草原. 基于残差与注意力机制的道路裂缝检测U-Net改进模型[J]. 计算机工程, 2023, 49(6): 265-273.
[7]	代祖华, 刘园园, 狄世龙. 语义增强的图神经网络方面级文本情感分析[J]. 计算机工程, 2023, 49(6): 71-80.
[8]	沈学利, 田桂源, 姜彦吉, 马琳琳. 基于双阶段Conv-Transformer的时频域语音增强算法[J]. 计算机工程, 2023, 49(6): 123-130.
[9]	丁子轩, 俞雷, 张娟, 李想, 王新宇. 基于深度残差自适应注意力网络的图像超分辨率重建[J]. 计算机工程, 2023, 49(5): 231-238.
[10]	区展华, 李翠然, 杨茜. 基于ANN的能量采集无线传感器网络中继选择策略[J]. 计算机工程, 2023, 49(5): 215-222,230.
[11]	陈治旭, 靳雁霞, 芦烨, 杨晶, 刘亚变, 史志儒. 基于子图卷积神经网络的多精度服装建模方法[J]. 计算机工程, 2023, 49(4): 174-181.
[12]	安志国, 彭政, 易满成, 刘健欣, 俞思帆. 神经网络滤波器竞争训练[J]. 计算机工程, 2023, 49(4): 120-124.
[13]	徐康, 李霏, 姬东鸿. 结合依存图卷积与文本片段搜索的方面情感三元组抽取[J]. 计算机工程, 2023, 49(4): 61-67.
[14]	陈锐, 孙羽菲, 郭强, 隋轶丞, 周振辉, 石昌青, 张玉志. OclDNN:一种可应用于TensorFlow的通用DNN库[J]. 计算机工程, 2023, 49(4): 138-148.
[15]	衡红军, 苗菁. 语义与句法信息加强的二元标记实体关系联合抽取[J]. 计算机工程, 2023, 49(4): 77-84.

选择文件类型/文献管理软件名称

选择包含的内容

ELM算法中随机映射作用的实验研究

Experimental Research on Random Mapping Function in ELM Algorithm

PDF

可视化

被引次数

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价

模态框（Modal）标题

选择文件类型/文献管理软件名称

选择包含的内容

ELM算法中随机映射作用的实验研究

Experimental Research on Random Mapping Function in ELM Algorithm

PDF

可视化

被引次数

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价