«上一篇 下一篇»
  计算机工程  2019, Vol. 45 Issue (10): 227-233  DOI: 10.19678/j.issn.1000-3428.0052570
0

引用本文  

陈吉成, 陈鸿昶, 于洪涛. 基于聚类质量的半监督INMF动态社区检测算法[J]. 计算机工程, 2019, 45(10), 227-233. DOI: 10.19678/j.issn.1000-3428.0052570.
CHEN Jicheng, CHEN Hongchang, YU Hongtao. Semi-Supervised INMF Algorithm for Dynamic Community Detection Based on Clustering Quality[J]. Computer Engineering, 2019, 45(10), 227-233. DOI: 10.19678/j.issn.1000-3428.0052570.

基金项目

国家自然科学基金创新研究群体项目(61521003)

作者简介

陈吉成(1984-), 男, 博士研究生, 主研方向为社交网络挖掘、通信与信息系统;
陈鸿昶, 教授;
于洪涛, 教授

文章历史

收稿日期:2018-09-05
修回日期:2018-10-23
基于聚类质量的半监督INMF动态社区检测算法
陈吉成 , 陈鸿昶 , 于洪涛     
国家数字交换系统工程技术研究中心, 郑州 450002
摘要:为实现复杂网络的快速分析,提出一种基于聚类质量的改进非负矩阵分解(INMF)算法,将其用于动态社区检测。从理论分析角度证明了演化谱聚类、INMF和模块密度优化之间的等价性,并基于该等价性,在不增加时间复杂度的前提下,通过在INMF中加入先验信息给出一种半监督INMF算法。在人工构造和真实世界的动态网络上的实验结果表明,与QCA、MIEN算法相比,该算法的社区检测质量和社区检测效率更优。
关键词聚类质量    半监督    非负矩阵分解    动态社区检测    图模型    
Semi-Supervised INMF Algorithm for Dynamic Community Detection Based on Clustering Quality
CHEN Jicheng , CHEN Hongchang , YU Hongtao     
China National Digital Switching System Engineering and Technological R & D Center, Zhengzhou 450002, China
Abstract: In order to realize the rapid analysis of complex networks, an Improved Non-Negative Matrix Factorization(INMF) algorithm based on Clustering Quality(CQ) is proposed, and applied to dynamic community detection.From the perspective of theoretical analysis, the equivalence between evolutionary spectral clustering, INMF and module density optimization is proved.Based on the equivalence, a semi-supervised INMF algorithm is given by adding a priori information to INMF without increasing the time complexity.Experimental results on artificial networks and real-world dynamic networks show that the algorithm has better community detection quality and community detection efficiency compared with QCA and MIEN algorithms.
Key words: Clustering Quality(CQ)    semi-supervised    non-negative matrix factorization    dynamic community detection    graph model    
0 概述

通过将每个实体视为一个顶点网络, 每条边看作一对顶点之间的相互作用, 可实现社区网络图模型的构建。现实中存在各种各样的网络, 如社交网络、互联网络和生物网络等。研究结果表明, 许多网络具有社群(模块)结构, 该结构被定义为子图, 该子图具有更多的边连接同一组中的顶点, 而相对较少的边连接不同组中的顶点。例如, 蛋白质相互作用网络中的社区对应于生物过程至关重要的蛋白质复合物[1-2]。在科学合作网络中, 社区对应于具有相同或相似研究方向的科学家群体[3]

社区检测为分析社交网络系统的结构和功能提供了有效的分析方法, 但设计有效且高效的社区检测算法仍具有挑战性, 主要原因是没有统一的标准量化网络中的社区[4]。当前针对社区检测已提出许多方法, 例如:文献[5]设计了采用模块度指标评价的动态社区发现算法, 其本质上是一种贪婪社区检测算法, 缺点是指标并未对模块密度问题进行综合分析, 具有一定的片面性; 文献[6]设计了采用Girvan策略的动态社区检测算法, 其基于层次聚类进行社区检测计算, 但是层次聚类算法的计算复杂度过高, 同时中心层次的构建存在先天缺陷; 文献[7]研究设计了基于图模型的动态社区检测算法, 图模型采用的是有向权重模型构建算法, 可实现对信息流的有效压缩, 获得更加优异的社区发现效果; 文献[8]设计了基于信息传播方法的动态社区检测算法, 算法对于社区检测过程的指标属性考虑不够充分, 社区划分精度不高。以上算法对于复杂社区检测过程中的边缘密度具有一定要求, 并且未对社区间的交互力问题进行有效分析。

为实现复杂网络的快速分析, 较为理想的社区检测方式是对计算效率和精度进行同步考虑。因此, 本文提出基于聚类质量(Clustering Quality, CQ)的改进非负矩阵分解(Improved Non-Negative Matrix Factorization, INMF)算法, 并将其用于动态社区检测。

1 问题描述 1.1 符号定义

定义1(动态网络)   令{1, 2, …, T}表示一组有限的时间步长。对于给定的变量, 附加的下标t表示时间t上变量的值。动态网络G被定义为网络的一个序列G={G1, G2, …, GT}, 其中Gt是时间t上的网络, 具有顶点集Vt和边缘集Et。假设G中的所有网络都具有相同的顶点集, 即Gt=(Vt, Et)等效为Gt=(V, Et)。

定义2(三维邻接矩阵)   动态网络G可以用三维邻接矩阵表示A=(aijt)n×n×T, 其中n是顶点的个数(即n=|V|), 如果网络Gt中第i个顶点与第j个顶点连接, 则aijt=1;否则aijt=0。实际上, A=[A1, A2, …, AT]是网络Gt的邻接矩阵, At=(aijt)n×n。如果Gt是无向网络, 则邻接矩阵At是对称的。

定义3  (度矩阵)假设所有的网络是无向和未加权的。网络Gt中的第i个顶点的度数定义为连接到它的边数, 即dit=$\sum\limits_j$aijt。动态网络G的度矩阵定义为D=[D1, D2, …, DT], 其中Dt是具有Gt度序列的对角矩阵, 即Dt=diag(d1t, d2t, …, dnt)。

网络中的社区检测是将顶点划分成不连续的组, 其中同一簇中的边缘数量大于组中的边缘数量。具体而言, 对于给定网络Gt=(V, Et), 社区结构对应于硬划分{C1t, C2t, …, Ckt}(表示为{Cit}i=1k), 如果ijV=$\sum\limits_i$iCit, 则使得CitCjt=∅。Cit是时间t的第i个本地社区(集群)。{Cit}i=1k可利用n×k归一化指示符矩阵Zt=(zijt)n×k进行表示, 其中如果在时间t上, 第i个顶点属于第j个局部簇, 则zijt=1, 否则zijt=0。为简化, 利用局部簇的大小参数对矩阵Zt列进行归一化处理, 即$\tilde {z}_{.jt}=z_{.jt}/ \sqrt {(C_{jt})} $, 其中$\tilde {z}$.jtZt的第j列, $\mathit{\boldsymbol{\tilde {Z}}}_t$=[$\tilde {z}_{.1t}$, $\tilde {z}_{.2t}$, …, $\tilde {z}_{.kt}$], $\mathit{\boldsymbol{\tilde {Z}}}_t$是列正交的, 容易验证$\mathit{\boldsymbol{\tilde {Z}}}′_t$$\mathit{\boldsymbol{\tilde {Z}}}_t$=Ik, 其中, Ik是单位矩阵, $\mathit{\boldsymbol{\tilde {Z}}}′_t$是矩阵$\mathit{\boldsymbol{\tilde {Z}}}_t$的转置。

1.2 社区定量评价函数

给定网络Gt=(Vt, Et)以及硬划分{Cit}i=1k, 定义L(Cit, Cjt)=$\sum\limits_{i∈C_{it}, j∈C_{jt}}$aijtCit=V\Cit。模块化指标Q可定义为[9]:

$ Q\left( {\left\{ {{C_{it}}} \right\}_{i = 1}^k} \right) = \sum\limits_{i = 1}^k {\frac{{L\left( {{C_{it}},{C_{it}}} \right)}}{{L(V,V)}}} - {\left( {\frac{{L\left( {{C_{it}},V} \right)}}{{L(V,V)}}} \right)^2} $ (1)

模块密度指标QD可定义为:

$ {Q_{\rm{D}}}\left( {\left\{ {{C_{it}}} \right\}_{i = 1}^k} \right) = \sum\limits_{i = 1}^k {\frac{{L\left( {{C_{it}},{C_{it}}} \right) - L\left( {{C_{it}},{{\bar C}_{it}}} \right)}}{{\left| {{C_{it}}} \right|}}} $ (2)

负相关性指标可定义为:

$ NA = {\rm Tr}\left( {{\mathit{\boldsymbol{A}}_t}} \right) - \sum\limits_{i = 1}^k {\frac{{L\left( {{C_{it}},{C_{it}}} \right)}}{{\left| {{C_{it}}} \right|}}} $ (3)

其中, Tr(At)是矩阵At的迹, 即$\sum\limits^n_{i=1}$aijt。文献[10]提出的模块化指标是目前常用的一种衡量网络中社区稳定度的方法; 模块密度指标主要评价社区中社区间的距离程度, 对网络社区的稀疏性进行表征; 负相关性指标评价的主要是社区之间的相关性。

2 基于CQ的聚类算法等价性描述 2.1 基于CQ的聚类算法分析

基于聚类时间(Clustering Time, CT)的定义, 可利用聚类质量指标对聚类算法的等价性进行定义。利用前一时间步长网络以及当前网络聚类结果的一致性进行定义, 图 1表示了在t-1和t时刻网络间的节点连接及节点间的权重(暂不考虑虚线部分)。由于聚类只考虑将同类的节点归类, 因此图中虚线清晰地将t-1和t时刻的聚类结果进行表示, 而没有考虑节点间的权重。

Download:
图 1 基于CQ的聚类过程

在该算法中, 前一时间步的局部社区用于指导当前时间步的社区发现, 并证明进化非负矩阵分解、演化谱聚类和模块密度在该过程中的等价性。虽然它们看似无关, 但在轨迹优化方面是等价的, 其关键问题是如何将目标函数转化为轨迹优化。在CQ算法框架中, CT表示当前划分对历史数据的聚类程度。网络Gt的划分Zt[1]Zt[2]是等价的, 即CS1=CS2

2.2 演化谱聚类

在CQ框架下, 使用负相关性的演化谱聚类的总成本可定义为:

$ \begin{array}{l} \mathit{Cos}{\mathit{t}_{NA}} = \alpha C{S_{NA}} + (1 - \alpha )C{T_{NA}} = \\ \;\;\;\;\;\;\;\;\;\;\;\;\;{\left. {\alpha N{\mathit{\boldsymbol{A}}_t}} \right|_{{\mathit{\boldsymbol{Z}}_t}}} + {\left. {(1 - \alpha )N{\mathit{\boldsymbol{A}}_{t - 1}}} \right|_{{\mathit{\boldsymbol{Z}}_t}}} \end{array} $ (4)

其中, |Zt表示基于社区划分Zt的谱聚类社区优化评价, 时间成本CTNA=NAt-1|Zt表示对不属于网络Gt-1Zt的惩罚。将式(4)转化为轨迹优化问题:

$ \begin{array}{l} \mathit{Cos}{\mathit{t}_{NA}} = Tr \left[ {\alpha {\mathit{\boldsymbol{A}}_t} + (1 - \alpha ){\mathit{\boldsymbol{A}}_{t - 1}}} \right] - \\ \;\;\;\;\;\;\;\;\;\;\;\;Tr \left[ {{{\mathit{\boldsymbol{\tilde Z'}}}_t}\left( {\alpha {\mathit{\boldsymbol{A}}_t} + (1 - \alpha ){\mathit{\boldsymbol{A}}_{t - 1}}} \right){{\mathit{\boldsymbol{\tilde Z}}}_t}} \right] \end{array} $ (5)

其中, 第一项Tr[αAt+(1-α)At-1]为常数, 因为它独立于局部分区$\mathit{\boldsymbol{\tilde {Z}}}_t$。因此, 最小化CostNA等同于最大化最后一项, 即:

$ \min \mathit{Cos}{\mathit{t}_{NA}} \propto {\mathop{\rm max \;Tr}\nolimits} \left[ {{{\mathit{\boldsymbol{\tilde Z'}}}_t}\left( {\alpha {\mathit{\boldsymbol{A}}_t} + (1 - \alpha ){\mathit{\boldsymbol{A}}_{t - 1}}} \right){{\mathit{\boldsymbol{\tilde Z}}}_t}} \right] $ (6)
2.3 模块密度优化

通过优化模块密度QD可优化聚类的总成本, 定义成本函数:

$ \begin{array}{l} \mathit{Cos}{\mathit{t}_{{Q_{\rm{D}}}}} = \alpha C{S_{{Q_{\rm{D}}}}} + (1 - \alpha )C{T_{{Q_{\rm{D}}}}} = \\ \;\;\;\;\;\;\;\;\;\;\;\;\alpha \left( {{{\left. {{Q_{\rm{D}}}} \right|}_{{\mathit{\boldsymbol{Z}}_t}}} + (1 - \alpha )\left( {{{\left. {{Q_{\rm{D}}}} \right|}_{{\mathit{\boldsymbol{Z}}_{\rm{t}}}}}} \right.} \right. \end{array} $ (7)

为导出CostQD的轨迹优化, 需先导出(QD)t|Zt的轨迹优化问题:

$ \begin{array}{l} {\left. {{{\left( {{Q_{\rm{D}}}} \right)}_t}} \right|_{{\mathit{\boldsymbol{Z}}_t}}} = \sum\limits_{i = 1}^k {\frac{{L\left( {{C_{it}},{C_{it}}} \right) - L\left( {{C_{it}},{{\bar C}_{it}}} \right)}}{{\left| {{C_{it}}} \right|}}} = \\ \;\;\;\;\;\;\;\;\;\;\;\;\;\;\;{\rm Tr} \left[ {{{\mathit{\boldsymbol{\tilde Z'}}}_t}\left( {2{\mathit{\boldsymbol{A}}_t} - {\mathit{\boldsymbol{D}}_t}} \right){{\mathit{\boldsymbol{\tilde Z}}}_t}} \right] \end{array} $ (8)

将式(8)代入式(7), 可使CostQD的整体成本优化问题转换为轨迹优化问题:

$ \begin{array}{l} \mathit{Cos}{\mathit{t}_{{Q_{\rm{D}}}}} = {\rm Tr} \left[ {{{\mathit{\boldsymbol{\tilde Z'}}}_t}\left( {\alpha \left( {2{\mathit{\boldsymbol{A}}_t} - {\mathit{\boldsymbol{D}}_t}} \right) + } \right.} \right.\\ \;\;\;\;\;\;\;\;\;\;\;\;\left. {\left. {(1 - \alpha )\left( {2{\mathit{\boldsymbol{A}}_{t - 1}} - {\mathit{\boldsymbol{D}}_{t - 1}}} \right)} \right){{\mathit{\boldsymbol{\tilde Z}}}_t}} \right] \end{array} $ (9)

对比式(6)和式(9), 除了使用的矩阵不同外, 它们具有相同的优化形式, 表明模块密度优化QD与演化谱聚类是等价的, 即:

$ \max \mathit{Cos}{\mathit{t}_{{Q_{\rm{D}}}}} \propto \min \mathit{Cos}{\mathit{t}_{\mathit{NA}}} $ (10)

该结果从理论上解释了为何拓扑结构可用于动态社区检测。

2.4 非负矩阵分解

矩阵分解是进行图中挖掘的有效模式, 旨在通过将目标矩阵近似为两个低秩矩阵的乘积来学习原始数据的表示。具体地, 对于给定n×m矩阵F, 非负矩阵分解将F分解为2个非负矩阵Rn×sSs×m, 使得[11]:

$ \mathit{\boldsymbol{F}} \approx \mathit{\boldsymbol{RS}},{\rm{s}}{\rm{. t}}{\rm{. }}\mathit{\boldsymbol{R}} \ge 0,\mathit{\boldsymbol{S}} \ge 0 $ (11)

在通常情况下, s比min{n, m}小得多; 对称非负矩阵分解(Symmetric Non-Negative Matrix Factorization, SNMF)是非负矩阵分解的一个扩展, 它将矩阵F近似分解成n×s矩阵R, 使得:

$ \mathit{\boldsymbol{F}} \approx \mathit{\boldsymbol{RR'}},{\rm{s}}{\rm{.}}\;{\rm{t}}{\rm{.}}\;\mathit{\boldsymbol{R}} \ge 0 $ (12)

给定网络Gt的邻接矩阵, 利用SNMF可以得到局部簇$\mathit{\boldsymbol{\tilde {Z}}}_t$:

$ {\mathit{\boldsymbol{A}}_t} \approx {\mathit{\boldsymbol{\tilde Z}}_t}{\mathit{\boldsymbol{\tilde Z'}}_t} $ (13)

通过最小化平方误差来求解上述方程, 即:

$ SNM{F_t} = \mathop {\min }\limits_{{{\mathit{\boldsymbol{\tilde Z}}}_t} \ge 0,{{\mathit{\boldsymbol{\tilde Z'}}}_t}{{\mathit{\boldsymbol{\tilde Z}}}_t} = {\mathit{\boldsymbol{I}}_k}} {\left\| {{\mathit{\boldsymbol{A}}_t} - {{\mathit{\boldsymbol{\tilde Z'}}}_t}{{\mathit{\boldsymbol{\tilde Z}}}_t}} \right\|^2} $ (14)

其中, ‖B‖是矩阵B的Frobeneus范数。将等式(14)改写为轨迹优化, 即:

$ SNM{F_t} = \mathop {\max }\limits_{{{\mathit{\boldsymbol{\tilde Z}}}_t} \ge 0,{{\mathit{\boldsymbol{\tilde Z'}}}_t}{{\mathit{\boldsymbol{\tilde Z}}}_t} = {\mathit{\boldsymbol{I}}_k}} {\rm Tr}\left( {{{\mathit{\boldsymbol{\tilde Z'}}}_t}{\mathit{\boldsymbol{A}}_t}{{\mathit{\boldsymbol{\tilde Z}}}_t}} \right) $ (15)

利用松弛正交性$\mathit{\boldsymbol{\tilde {Z}}}′_t$$\mathit{\boldsymbol{\tilde {Z}}}_t$=Ik, 式(15)可改写为下列形式:

$ SNM{F_t} \propto \mathop {\max }\limits_{{{\mathit{\boldsymbol{\tilde Z}}}_t} \ge 0} \;{\rm Tr} \left( {{{\mathit{\boldsymbol{\tilde Z'}}}_t}{\mathit{\boldsymbol{A}}_t}{{\mathit{\boldsymbol{\tilde Z}}}_t}} \right) $ (16)

结合式(4)可定义非负矩阵分解的整体成本函数形式为:

$ \begin{array}{l} \mathit{Cos}{\mathit{t}_{{\rm{INMF}}}} = \alpha C{S_{{\rm{SNMF}}}} + (1 - \alpha )C{T_{{\rm{SNMF}}}} = {\left. {\alpha SNM{F_t}} \right|_{{\mathit{\boldsymbol{Z}}_t}}} + \\ \;\;\;\;\;\;\;\;\;\;\;\;\;\;\;{\left. {(1 - \alpha )SNM{F_{t - 1}}} \right|_{{\mathit{\boldsymbol{Z}}_t}}} \end{array} $ (17)

基于式(16), 将式(7)重新表述为:

$ \begin{array}{l} \mathit{Cos}{\mathit{t}_{INMF}} \propto \alpha Tr\left( {{{\mathit{\boldsymbol{\tilde Z'}}}_t}{\mathit{\boldsymbol{A}}_t}{{\mathit{\boldsymbol{\tilde Z}}}_t}} \right) + \left( {1 - \alpha } \right) Tr \left( {{{\mathit{\boldsymbol{\tilde Z'}}}_t}{\mathit{\boldsymbol{A}}_{t - 1}}{{\mathit{\boldsymbol{\tilde Z}}}_t}} \right) = \\ \;\;\;\;\;\;\;\;\;\;\;\;\;\;\;Tr\left[ {{{\mathit{\boldsymbol{\tilde Z'}}}_t}\left( {\alpha {\mathit{\boldsymbol{A}}_t} + (1 - \alpha ){\mathit{\boldsymbol{A}}_{t - 1}}} \right){{\mathit{\boldsymbol{\tilde Z}}}_t}} \right] \end{array} $ (18)

对比式(6)、式(9)及式(18)可得出, SNMF、演化谱聚类和模块密度优化是等价的, 即:

$ \left\{ {\begin{array}{*{20}{l}} {\min \mathit{Cos}{\mathit{t}_{{\rm{NMF}}}} \propto \min \mathit{Cos}{\mathit{t}_{NA}}}\\ {\min \mathit{Cos}{\mathit{t}_{{\rm{INMF}}}} \propto \max \mathit{Cos}{\mathit{t}_{{Q_{\rm{D}}}}}} \end{array}} \right. $ (19)

由此证明SNMF和演化谱聚类之间的等价性, 表明SNMF算法也可以用于动态社区检测。

3 半监督INMF算法 3.1 半监督局部社区聚类发现

为基于时间平滑框架在时刻t发现局部簇, 通过线性函数同时考虑GtGt-1, 定义该线性函数为[12]:

$ \mathit{\boldsymbol{A}}_t^ * = \alpha {\mathit{\boldsymbol{A}}_t} + (1 - a)\left( {{\mathit{\boldsymbol{A}}_t} - {\mathit{\boldsymbol{A}}_{t - 1}}} \right) $ (20)

其中, 参数α控制CSCT的相关重要性。基本的假设是:如果一组顶点的连通性在GtGt-1中都很强, 那么它们很可能在时刻t是本地集群。通常选取参数α=0.8。许多研究成果表明[5-6], 在聚类算法中加入先验信息可显著提高算法精度, 如Pagerank算法、半监督NMF算法和半监督谱聚类算法。本文提出结合非负矩阵算法和谱聚类算法的半监督改进非负矩阵分解算法。采用谱聚类的原因为:1)谱聚类通常可获得良好的聚类性能; 2)演化谱聚类和非负矩阵分解算法之间的等价性为它们组合奠定了坚实的理论基础。

构建先验信息的策略包括两个步骤:1)获得高质量的顶点群; 2)部分信息的构建。首先使用由指示符矩阵Ztsc表示谱聚类算法来获得时刻t的局部聚类, 其中如果第i个顶点属于第j个局部社区, 则Zijtsc=1;否则Zijtsc=0。为确保先验信息的质量, 对于每个局部社区, 需移除社区内的顶点, 直到社区的诱导子网络的密度达到阈值β。基本假设是强连通顶点很可能被分组为一个社区。由于在随机网络中普遍存在小的密集子图, 因此保留了至少5个顶点的子图作为先验信息, 细化的局部社区由Ztrc表示。将先验信息结合到At*中:

$ \mathit{\boldsymbol{\hat A}}_t^ * = \mathit{\boldsymbol{A}}_t^ * + \gamma \mathit{\boldsymbol{Z}}_t^{{\rm{rc}}}{\left( {\mathit{\boldsymbol{Z}}_t^{{\rm{rc}}}} \right)^\prime } $ (21)

其中, γ是控制先验信息的相关权重参数。为获得时间t上的局部簇, 本文所提算法通过最小化平方误差对矩阵$\mathit{\boldsymbol{\hat A}}$t*进行分解, 即:

$ {\mathit{\boldsymbol{J}}_t} = {\left\| {\mathit{\boldsymbol{A}}_t^* - {\mathit{\boldsymbol{B}}_t}{\mathit{\boldsymbol{F}}_t}} \right\|^2},{\rm{s}}{\rm{.}}\;{\rm{t}}{\rm{.}}\;{\mathit{\boldsymbol{B}}_t} \ge 0,{\mathit{\boldsymbol{F}}_t} \ge 0 $ (22)

为求解上述方程, 将Jt的导数设为:

$ \frac{{\partial {\mathit{\boldsymbol{J}}_t}}}{{\partial {\mathit{\boldsymbol{B}}_t}}} = 0,\frac{{\partial {\mathit{\boldsymbol{J}}_t}}}{{\partial {\mathit{\boldsymbol{F}}_t}}} = 0 $ (23)

得到以下更新规则:

$ {\mathit{\boldsymbol{B}}_t} = {\mathit{\boldsymbol{B}}_t}\frac{{\mathit{\boldsymbol{\hat A}}_t^*\mathit{\boldsymbol{F}}_t^\prime }}{{{\mathit{\boldsymbol{B}}_t}{\mathit{\boldsymbol{F}}_t}\mathit{\boldsymbol{F}}_t^\prime }} $ (24)
$ {\mathit{\boldsymbol{F}}_t} = {\mathit{\boldsymbol{F}}_t}\frac{{{{\mathit{\boldsymbol{B'}}}_t}\mathit{\boldsymbol{\hat A}}_t^*}}{{{{\mathit{\boldsymbol{B'}}}_t}{\mathit{\boldsymbol{B}}_t}{\mathit{\boldsymbol{F}}_t}}} $ (25)

基于矩阵Ft构造Gt局部簇的指示矩阵Zt, 即如果j*=$\mathop {\arg \max }\limits_j $Fij, 则可得Zij*t=1;否则Zij*t=0。该过程如图 2所示。

Download:
图 2 基于先验信息的时间平滑框架局部聚类发现过程
3.2 动态社区发现

给定时间步长t-1和t的局部簇, 通过局部簇映射来发现动态社团。令Ct为时间t时的局部簇集合, CitCt的第i个局部集群。构造CtCt-1之间的二分图, 其中每个局部聚类被视为顶点, Ci, t-1Cjt之间的链接权重被定义为重叠顶点的数目, 即:

$ {l_{ijt}} = \left| {{C_{i,t - 1}} \cap {C_{jt}}} \right| $ (26)

潜在的假设是:若更多的顶点重叠, 则更可能多的局部集群将被映射。类似地, 构造从C1CT的T划分图如图 3所示。

Download:
图 3 基于局部簇映射的动态社区划分

利用互信息定义T图的拓扑相似度[13-14]:

$ \mathit{MI}\left( {{C_{i,t - 1}},{C_{jt}}} \right) = \frac{{{l_{ijt}}}}{{\sum\limits_j {{l_{ijt}}} }}\lg \frac{{{l_{ijt}}\sum\limits_{i,j} {{l_{ijt}}} }}{{\sum\limits_i {{l_{ijt}}} \sum\limits_j {{l_{ijt}}} }} $ (27)

假设局部簇之间的互信息越高, 两个局部簇就越有可能相关。贪婪搜索程序用于从Ct-1Ct的局部映射集群:对于每一次迭代, 选择具有最大MI值的局部簇对; 一旦Ci, t-1Cjt之间的映射完成, Ct-1内的其他局部簇就不能映射到Cjt; 此过程继续, 直到没有可用的映射。动态社区是这些映射的局部集群。半监督非负矩阵分解算法具体步骤如下:

算法1  半监督非负矩阵分解算法

输入  动态网络G、局部聚类数量{ki}i=1T、局部簇密度阈值β、先验信息权重γ

输出   局部集群与演化社区{Zt}t=1T

//局部社区发现

1.对于每个时间步长t, 根据式(26)构造At*;

2.利用谱聚类算法获取局部信息Ztrc;

3.根据式(27)构造划分矩阵At*;

4.根据式(28)、式(29), 利用NMF获得局部聚类发现{Zt}t=1T;

//改进社区发现

5.利用局部聚类{Zt}t=1T, 构造T划分图;

6.利用贪心搜索算法发现改进社区;

7.返回查询结果

3.3 参数选择

本文算法包含3个参数:kt, βγ, 其中, kt是网络Gt中的局部簇数量, β是先验信息的密度阈值, γ是控制先验信息的重要性占比。

在聚类中确定簇数目的方法有很多, 例如:在谱聚类算法中, 使用两个连续特征值之间的间隙来选择适当的kt参数, 当网络规模较小时, 容易获得较大的间隙, 当网络规模较大时, 由于难以定义阈值, 因此难以找到间隙; 目标函数引导策略也是常用方法, 其中kt是与给定目标函数(例如模块化Q)的最大(最小)值相对应的值。本文在矩阵谱理论的基础上选择kt取值。给定网络Gt, 邻接矩阵At的谱是特征值λ1t, λ2t, …, λnt以及相应的特征向量x1t, x2t, …, xnt的集合。

不失一般性, 假设λ1tλ2t≥…≥λnt。矩阵可以在特征值和特征向量的基础上重建, 即:

$ {\mathit{\boldsymbol{A}}_t} = \sum\limits_{i = 1}^n {{\lambda _{it}}} {x_{it}}x_{it}^\prime $ (28)

选择kt作为最小值k, 可得:

$ {k_t} = \mathop {\arg \min }\limits_k \sqrt {\left\| {\sum\limits_{i = 1}^k {{\lambda _{it}}} {x_{it}}x_{it}^\prime } \right\|/\left\| {{\mathit{\boldsymbol{A}}_t}} \right\|} > \delta $ (29)

其中, δ是控制近似值的参数。一方面, 随着特征向量个数的增加, At和局部解之间的误差(即‖At$\sum\limits^k_{i=1}$λitxitxit2)减小。另一方面, 随着特征值个数的增加, 特征是冗余的。因此, 对δ来说, 用相当少的特征值来实现合理、近似的值, 可使结果趋向于良好的方向。设置δγβ作为调谐参数, 并根据经验进行选取。

3.4 计算复杂度分析

对本文算法的空间复杂度进行分析, 在给定动态网络G的情况下, 三维邻接矩阵An×n×T需要的空间复杂度为O(n2T)。在给定邻接矩阵的情况下, 指标矩阵的空间复杂度为O(nkt)。分解矩阵A所需的总计算复杂度为:

$ \begin{array}{*{20}{r}} {O\left( {{n^2}T} \right)O\left( {n\left( {{k_1} + {k_2} + \cdots + {k_n}} \right)} \right) = }\\ {O\left( {nT\max \left\{ {{k_1},{k_2}, \cdots ,{k_n}} \right\}} \right)} \end{array} $ (30)

因为kin(1≤iT), 所以式(30)的计算复杂度为O(n2T)。在社区映射过程中, T划分图的空间复杂度是O(T(maxi, ki)2)。因此, 总的空间复杂度为O(n2T), 从而证明本文算法在空间复杂度上的计算是有效的。

然后, 对时间复杂度进行分析。对于每个时间t, 本文算法包含3个主要组成部分:采用谱聚类算法的先验信息构造、局部聚类矩阵分解以及模块映射过程。谱聚类的时间复杂度为O(n3)。在时间t上, 局部簇的非负矩阵分解的时间复杂度为O(rn2kt), 其中r是迭代次数。局部聚类映射过程的时间复杂度为O(kt-1kt)。因为ki < n, 所以每个时间步长的时间复杂度为:

$ O\left( {{n^3} + r{n^2}{k_t} + {k_{t - 1}}{k_t}} \right) = O\left( {{n^3} + r{n^2}{k_t}} \right) $ (31)

本文算法的整体时间复杂度为O(T(n3+rn2max{kt}t=1T)), 分析结果显示, 本文算法的时间复杂度与INMF相当。

4 实验结果与分析 4.1 实验环境设置

在实验中, 选取的实验模型分为两组:1)具有静态属性的社区发现模型; 2)具有动态属性的社区发现模型。实验平台的硬件情况:CPU-i5-6200k, 内存大小为16 GB ddr4-2400, 系统为Win7旗舰版。

实验模型的具体选取情况如下:1)具有静态属性的社区发现模型, 主要有微博网络(Polblogs)、海豚网络(Dolphins)、新陈代谢网络(Cel)、爵士乐网络(Jazz)、邮箱网络(Email)、足球社网络(Football)、空手道网络(Karate); 2)具有动态属性的社区发现模型, 主要有arXive-print网络和Enron Email网络。

选取的对比实验算法为CNM算法、GN算法、LPA算法、Spin-glass算法、Similarity算法、NEC算法、QCA算法(以上算法相关定义见文献[15])及MIEN算法[16]。实验包含3个主要过程:静态社区发现模型有效性验证, 静态社区发现模型可视化验证, 动态社区发现模型性能验证。

4.2 静态社区发现模型有效性验证

为验证不同算法的社区划分性能, 在此选取模块度以及社区划分数量作为实验对比指标, 选取的对比实验算法在上述具有静态属性的社区发现模型上的性能测试结果如表 1所示。

下载CSV 表 1 具有静态属性的社区发现模型上的性能测试结果

表 1实验对比数据中, 除了本文算法是通过本文实验结果获得外, 其他对比算法均来自于文献[15]。根据表 1实验结果可知, Spin-glass算法和本文考虑聚类质量的半监督INMF动态社区检测算法在所选取的静态社区发现模型上, 均可获得较为理想的社区发现结果。从模块度指标的评估结果看, Spin-glass算法的指标分布区间是0.41~0.62, 本文算法的社区发现结果的指标分布区间是0.42~0.64。CNM算法、GN算法、LPA算法、Similarity算法、NEC算法的指标分布区间均低于Spin-glass算法和本文算法。上述实验结果验证了本文算法在社区发现模块度指标上的性能优势。

4.3 静态社区发现模型可视化验证

在可视化实验验证阶段, 因为受到文章篇幅的限制, 仅选取静态属性的社区发现模型中的Karate、Dolphins和Jazz 3种社区发现模型进行可视化实验验证。同时, 选取这3种社区发现模型的另一个原因是其模型中的节点规模数量相对较少, 如果节点规模数量过大, 则不利于直观显示实验结果。可视化实验验证结果如图 4~图 6所示。

Download:
图 4 Karate模型社区划分结果
Download:
图 5 Dolphins模型社区划分结果
Download:
图 6 Jazz模型社区划分结果

在上述实验模型中, Karate模型是针对俱乐部内部成员之间的社会关系构建的社区发现模型, 成员模型的数量是34, 也就是其节点是34个。如图 4所示的Karate模型中, 节点1是俱乐部中的教练角色, 其余节点是俱乐部中的经理角色, 相互之间存在冲突, 且具有不可调和性, 进而影响俱乐部内部成员之间的关系, 存在派系问题。在本文算法的可视化社区检测结果中, 共可得到Karate模型的2个派系4个社区检测结果, 该划分结果同原始模型构建过程中的真实情况完全吻合。Dolphins模型主要是为研究海豚群体而建立的社区分析模型, 该模型的原始对象由2个不同的海豚家族构成, 模型的构建节点数量是62。图 6为本文算法对Dolphins模型的社区划分结果, 可视化实验结果显示, 本文算法可将海豚群体划分为4个社区检测结果, 该划分结果同原始模型构建过程中的真实情况完全吻合。Jazz模型对象主要是为研究爵士乐队社会关系构建的社区发现模型, 本文算法的划分结果如图 5所示, 因为其中所涉及的节点数量过多, 这里并未对其节点的顺序号进行一一标注, 根据图 6的Jazz模型的社区发现结果可知, 本文算法可将Jazz模型划分成4个社区, 该划分结果同原始模型构建过程中的真实情况完全吻合。上述实验结果显示, 本文算法在选取的Karate、Dolphins和Jazz这3种静态社区检测模型上可获得非常精确的社区划分结果。

4.4 动态社区发现模型性能验证

本文算法主要考虑的是针对社区划分质量的动态社区发现问题, 为验证本文算法的有效性, 在此选取QCA算法[15]、MIEN算法[16]进行算法性能测试。动态社区划分实验对象选取Enron Email网络。实验过程中的硬件配置同上, 测试指标使用的是社区检测算法获得的社区数量、模块度指标以及计算时间3组评价结果。实验对比数据如图 7所示。

Download:
图 7 Enron Email模型社区划分结果

Enron Email模型主要是针对Enron公司中高管之间的邮件关系进行设计, 其考虑的高管节点数量是151。选取网络模型中一半的边建立实验模型, 此外构建21组具有静态属性的模型结构, 其中边缘的增加速度是1 000。根据实验对比结果, 本文算法相对于QCA动态社区发现算法和MIEN动态社区发现算法, 在社区数量、模块度指标以及计算时间3组评价指标上具有更加优异的性能表现。

综合上述实验结果可知, 本文算法相对于选取的对比实验算法在社区检测质量和社区检测效率上性能更优, 验证了本文算法在动态社区发现上的性能优势。

5 结束语

本文为推导改进聚类算法之间的理论关系, 证明了模块密度优化、演化谱聚类和INMF之间的等价性, 从而扩展演化谱聚类和局部聚类之间的等价性。结合INMF和谱聚类, 提出半监督INMF算法, 并将其引入到INMF目标函数中。在不增加时间复杂度的情况下, 通过使用人工构造和真实世界的动态网络, 证明了该算法的性能优势。但由于半监督INMF算法前一时间步社区中的错误会被传递到当前时间步的社区检测中, 从而影响算法准确性, 因此下一步将对此进行研究及改进。

参考文献
[1]
刘海洋, 王志海, 黄丹, 等. 基于评分矩阵局部低秩假设的成列协同排名算法[J]. 软件学报, 2015, 26(11): 2981-2993. (0)
[2]
LIU Tongliang, TAO Dacheng. On the performance of manhattan nonnegative matrix factorization[J]. IEEE Transactions on Neural Networks and Learning Systems, 2016, 27(9): 1851-1863. DOI:10.1109/TNNLS.2015.2458986 (0)
[3]
邹丹, 窦勇, 郭松. 基于GPU的稀疏矩阵Cholesky分解[J]. 计算机学报, 2014, 37(7): 1445-1454. (0)
[4]
LI Jun, JOSÉ M, PLAZA A, et al. Robust collaborative nonnegative matrix factorization for hyperspectral unmixing[J]. IEEE Transactions on Geoscience and Remote Sensing, 2016, 54(10): 6076-6090. DOI:10.1109/TGRS.2016.2580702 (0)
[5]
WANG S S, CHERN A, TSAO Y. Wavelet speech enhancement based on nonnegative matrix factorization[J]. IEEE Signal Processing Letters, 2016, 23(8): 1101-1105. DOI:10.1109/LSP.2016.2571727 (0)
[6]
KITAMURA D, ONO N, SAWADA H, et al. Determined blind source separation unifying independent vector analysis and nonnegative matrix factorization[J]. IEEE/ACM Transactions on Audio, Speech, and Language Processing, 2016, 24(9): 1626-1641. DOI:10.1109/TASLP.2016.2577880 (0)
[7]
ZHANG Xianchao, ZONG Linlin, LIU Xinyue, et al. Constrained clustering with nonnegative matrix factorization[J]. IEEE Transactions on Neural Networks and Learning Systems, 2016, 27(7): 1514-1526. DOI:10.1109/TNNLS.2015.2448653 (0)
[8]
SHI Lei, ZHANG Lefei, ZHAO Lingli, et al. Adaptive laplacian eigenmap-based dimension reduction for ocean target discrimination[J]. IEEE Geoscience and Remote Sensing Letters, 2016, 13(7): 902-906. DOI:10.1109/LGRS.2016.2553046 (0)
[9]
VENKATARAMAN A, YANG D Y J, PELPHREY K A, et al. Bayesian community detection in the space of group-level functional differences[J]. IEEE Transactions on Medical Imaging, 2016, 35(8): 1866-1862. DOI:10.1109/TMI.2016.2536559 (0)
[10]
NEWMAN M. Detecting community structure innetworks[J]. European Physical Journal B, 2004, 38(2): 321-330. DOI:10.1140/epjb/e2004-00124-y (0)
[11]
SAMMARCO M, CAMPISTA M E M, AMORIM M D. Scalable wireless traffic capture through community detection and trace similarity[J]. IEEE Transactions on Mobile Computing, 2016, 15(7): 1757-1769. DOI:10.1109/TMC.2015.2477809 (0)
[12]
罗会兰, 万成涛, 孔繁胜. 基于KL散度及多尺度融合的显著性区域检测算法[J]. 电子与信息学报, 2016, 38(7): 1594-1601. (0)
[13]
李艳雄, 吴水, 贺前华. 基于特征均值距离的短语音段说话人聚类算法[J]. 电子与信息学报, 2012, 34(6): 1404-1407. (0)
[14]
KIM Y D, CHOI S. Variational Bayesian view of weighted trace norm regularization for matrix factorization[J]. IEEE Signal Processing Letters, 2013, 20(3): 261-264. DOI:10.1109/LSP.2013.2242468 (0)
[15]
SAMMARCO M, CAMPISTA M E M, AMORIM M D. Scalable wireless traffic capture through community detection and trace similarity[J]. IEEE Transactions on Mobile Computing, 2016, 15(7): 1757-1769. DOI:10.1109/TMC.2015.2477809 (0)
[16]
KARIMI-MAJD A M, FATHIAN M, AMIRI B. A hybrid artificial immune network for detecting communities in complex networks[J]. Computing, 2015, 97(2): 483-507. (0)