基于邻近交替线性化的稀疏非负矩阵分解算法

doi:10.19678/j.issn.1000-3428.0049293

计算机工程 ›› 2019, Vol. 45 ›› Issue (2): 220-225,232. doi: 10.19678/j.issn.1000-3428.0049293

基于邻近交替线性化的稀疏非负矩阵分解算法

王静^a,杨丹^a,b

重庆大学 a.数学与统计学院; b.软件学院重庆401331

收稿日期:2017-11-13 出版日期:2019-02-15 发布日期:2019-02-15
作者简介:王静(1993—),女,硕士研究生,主研方向为计算机视觉、机器学习;杨丹,教授、博士生导师。
基金资助:
国家自然科学基金(61173131);中央高校基本科研业务费跨学科类重大项目(CDJZR12098801)。

Sparse Non-negative Matrix Factorization Algorithm Based on Proximal Alternating Linearized Minimization

WANG Jing ^a,YANG Dan ^a,b

a.College of Mathematics and Statistics; b.School of Software Engineering,Chongqing University,Chongqing 401331,China

Received:2017-11-13 Online:2019-02-15 Published:2019-02-15

摘要/Abstract

摘要：

结合稀疏约束与邻近交替线性化(PALM),提出稀疏非负矩阵分解算法(SNMF_PALM)。将非凸的平滑剪切绝对偏差函数作为稀疏正则项,获得逼近L0范数的最佳凸松弛,并利用PALM算法对非凸问题进行求解,得到SNMF_PALM算法的局部稳定最优解。在人脸数据库上将SNMF_PALM算法与SNMF、NMF算法进行实验对比,结果表明SNMF_PALM算法具有更好的聚类性能。

关键词: 非负矩阵分解, 稀疏, 平滑剪切绝对偏差函数, 邻近交替线性化, 非凸问题, 聚类

Abstract:

This paper combinessparsity constraint and Proximal Alternating Linearized Minimization(PALM),proposes a Sparse Non-negative Matrix Factorization(SNMF) algorithm,called SNMF_PALM.The non-convex Smoothly Clipped Absolute Deviation(SCAD) function is used as the sparse regularization term to obtain the optimal convex relaxation approximating L0 norm.The PALM algorithm is used to solve the non-convex problem,and the local optimal solution of SNMF_PALM algorithm is obtained.Experimental results of SNMF_PALM,SNMF and improved NMF algorithms in face database show that SNMF_PALM algorithm has better clustering performance.

Key words: Non-negative Matrix Factorization(NMF), sparse, Smoothly Clipped Absolute Deviation(SCAD) function, Proximal Alternating Linearized Minimization(PALM), non-convex problem, clustering

中图分类号:

TP301.6

王静,杨丹. 基于邻近交替线性化的稀疏非负矩阵分解算法[J]. 计算机工程, 2019, 45(2): 220-225,232.

WANG Jing,YANG Dan. Sparse Non-negative Matrix Factorization Algorithm Based on Proximal Alternating Linearized Minimization[J]. Computer Engineering, 2019, 45(2): 220-225,232.

https://www.ecice06.com/CN/Y2019/V45/I2/220

参考文献

［1］LEE D D,SEUNG S H.Learning the parts of objects by non-negative matrix factorization［J］.Nature,1999,401(6755):788-791.
［2］LEE D D,SEUNG S H.Algorithms for non-negative matrix factorization［J］.Advances in Neural Information Processing Systems,2010,32(6):556-562.
［3］GUILLAMET D,BRESSAN M,VITRIA J.A weighted non-negative matrix factorization for local representations［C］//Proceedings of 2001 IEEE Computer Society Conference on Computer Vision and Pattern Recognition.Washington D.C.,USA:IEEE Press,2001:942-947.
［4］王超锋,施俊,吴金杰,等.基于Hessian正则化的多视图联合非负矩阵分解算法［J］.计算机工程,2017,43(11):134-139.
［5］GUILLAMET D,VITRIA J. Non-negative matrix factoriza-tion for face recognition［C］//Proceedings of the 5th Catalonian Conference on AI:Topics in Artificial Intel-ligence.New York,USA:ACM Press 2002:336-344.
［6］张凤斌,葛海洋,杨泽.非负矩阵分解在免疫入侵检测中的优化和应用［J］.计算机工程,2016,42(5):173-178.
［7］HOYER P O.Non-negative matrix factorization with sparseness constraints［J］.Journal of Machine Learning Research,2004,5(1):1457-1469.
［8］LIU H F.Constrained nonnegative matrix factorization for image representation［J］.IEEE Transaction on Pattern Analysis and Machine Intelligence,2012,34(7):1299-1311.
［9］LI S Z.Learning spatially localized,parts-based representation［C］//Proceedings of 2001 IEEE Computer Society Conference on Computer Vision and Pattern Recognition.Washington D.C.,USA:IEEE Press,2003:207-212.
［10］MEHRANIAN A,RAD H S,RAHMIM A,et al.Smoothly Clipped Absolute Deviation(SCAD) regularization for compressed sensing MRI using an augmented Lagrangian scheme［J］.Magnetic Resonance Imaging,2013,31(8):1399-1411.
［11］FAN J Q,LI R.Variable selection via nonconcave penalized likelihood and its oracle properties［J］.Journal of the American Statistical Association,2001,96(456):1348-1360.
(下转第232页)
(上接第225页)
［12］BOLTE J,SABACH S,TEBOULLE M.Proximal alternating linearized minimization for nonconvex and nonsmooth problems［J］.Mathematical Programming,2014,146(1/2):459-494.
［13］POCK T,SABACH S.Inertial Proximal Alternating Linearized Minimization(iPALM) for nonconvex and nonsmooth problems［J］.International Journal of Wavelets Multiresolution and Information Processing,2016,9(4):1756-1787.
［14］HARTIGAN J A,WONG M A.A K-means clustering algorithm［J］.Applied Statistics,1979,28(1):100-108.
［15］LIU W X,ZHENG N,LU X.Non-negative matrix factorization for visual coding［C］//Proceedings of IEEE International Conference on Acoustics,Speech,and Signal Processing.Washington D.C.,USA:IEEE Press,2003:293-299.

[1]	王晋涛, 秦昂, 张元, 陈一飞, 王廷凤, 谢承霖, 邹刚. 基于注意力增强与特征融合的中文医学实体识别[J]. 计算机工程, 2024, 50(7): 324-332.
[2]	丁伟杰, 顾斌杰, 潘丰. 增量式稀疏密度加权孪生支持向量回归机[J]. 计算机工程, 2024, 50(7): 123-132.
[3]	徐明亮, 李芳媛, 马浩然, 何飞. 大规模神经记录的峰电位聚类算法(特邀)[J]. 计算机工程, 2024, 50(6): 1-34.
[4]	余长宏, 许孔豪, 张泽, 高明. 基于分割点改进孤立森林的网络入侵检测方法[J]. 计算机工程, 2024, 50(6): 148-156.
[5]	郑娟毅, 张庆珏, 董嘉豪, 郭梦月, 杨溥江. 一种深度学习的波束空间信道估计算法[J]. 计算机工程, 2024, 50(5): 298-305.
[6]	胡傲然, 陈晓红. 基于多样性与一致性的单步多视图聚类[J]. 计算机工程, 2024, 50(5): 51-61.
[7]	严海宁, 余正涛, 黄于欣, 宋燃, 杨溪. 融合词性语义扩展信息的事件检测模型[J]. 计算机工程, 2024, 50(3): 89-97.
[8]	马越, 温蜜. 基于多尺度LDTW和TCN的空间负荷预测方法[J]. 计算机工程, 2024, 50(3): 106-113.
[9]	宋华伟, 李升起, 万方杰, 卫玉萍. 非独立同分布场景下的联邦学习优化方法[J]. 计算机工程, 2024, 50(3): 166-172.
[10]	王丽娟, 邢津萍, 尹明, 郝志峰, 蔡瑞初, 温雯. 基于一致性图的权重自适应多视角谱聚类算法[J]. 计算机工程, 2024, 50(2): 122-131.
[11]	刘思慧, 高全学, 宋伟, 谢德燕. 基于加权张量低秩约束的多视图谱聚类[J]. 计算机工程, 2024, 50(1): 129-137.
[12]	郑美光, 杨泳. 基于互信息软聚类的个性化联邦学习算法[J]. 计算机工程, 2023, 49(8): 20-28.
[13]	陈君航, 杨祖元, 刘名扬, 李陵江. 基于正交约束的广义可分离非负矩阵分解算法[J]. 计算机工程, 2023, 49(8): 46-53.
[14]	李泽水, 冀俊忠, 杨翠翠. 基于边权重信息深度网络嵌入的PPIN功能模块检测[J]. 计算机工程, 2023, 49(8): 69-76.
[15]	江雨燕, 陶承凤, 李平. 数据增强和自适应自步学习的深度子空间聚类算法[J]. 计算机工程, 2023, 49(8): 96-103, 110.

选择文件类型/文献管理软件名称

选择包含的内容

基于邻近交替线性化的稀疏非负矩阵分解算法

Sparse Non-negative Matrix Factorization Algorithm Based on Proximal Alternating Linearized Minimization

PDF

可视化

被引次数

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价

模态框（Modal）标题

选择文件类型/文献管理软件名称

选择包含的内容

基于邻近交替线性化的稀疏非负矩阵分解算法

Sparse Non-negative Matrix Factorization Algorithm Based on Proximal Alternating Linearized Minimization

PDF

可视化

被引次数

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价