0 概述

学术论文作为研究人员展示其科研成果的重要载体, 其数量随着科学技术的发展呈现快速增长。如何从海量的学术论文中准确识别出具有参考价值的文献变得越来越具有挑战性。论文影响力评估作为科学计量学中的一项重要研究, 也引起了广泛的关注^[1]。

论文影响力评估主要包括对论文当前影响力的评估和对论文未来影响力的预测两个方面。论文影响力预测主要利用论文的被引用次数、出版论文的期刊或会议的影响力以及作者的影响力等相关信息构建评估模型, 从而预测论文的未来影响力^[2]。相比于论文当前影响力评估, 论文影响力预测对于研究者而言具有更重要的实际应用价值。准确评估论文影响力有助于研究人员快速识别具有潜在高影响力的论文, 了解最新的研究动态, 掌握最新的研究方法, 从而在已有研究的基础上进一步改进或创新, 以取得更先进的科研成果。然而, 目前对于如何准确地识别有价值的论文并预测其未来影响力的研究相对较少。

现有方法通常是利用基于图的模型实现论文未来影响力的预测和排序, PageRank算法^[3]是其中具有代表性的算法之一, 其本质上是一种基于单变量马尔可夫链的随机游走算法。在早期研究中, 基于论文间引用关系的PageRank算法被广泛用于论文影响力的评估, 但是这种基于单变量的算法只适用于同构网络, 其因信息单一而难以获得较好的预测结果。

为了解决这一问题, 研究人员在论文引用网络的基础上, 加入作者、期刊等实体构建异构学术网络^[4-5], 提出基于多变量马尔可夫链的随机游走算法, 并通过加入时间信息来提高预测结果的准确性。该算法的关键是假设各实体的影响力是相互增强的, 例如, 如果一篇学术论文是由具有高影响力的作者撰写的, 那么该论文可能会具有较高的影响力, 如果一位作者发表过高影响力的论文, 那么该作者的影响力也更高。该方法的预测效果比单变量随机游走更好, 其被认为是目前最先进的论文影响力预测方法之一。但是, 基于图的随机游走算法只利用网络的全局结构信息, 忽略了局部结构信息, 而这种局部结构信息对论文影响力的评估非常重要, 因此, 可通过保留邻居节点间的影响力依赖关系^[6]更全面地评估论文节点的影响力。

近年来, 随着网络表示学习技术的发展^[7-8], 网络局部结构信息可以通过表示学习方法得到有效保留。受此启发, 本文基于网络表示学习方法, 提出一种新的论文影响力预测算法NERank。设计融合论文引用网络、论文-作者网络以及论文-期刊/会议网络的异构学术网络, 根据指示论文未来影响力的时间信息设置网络中边的权重。在此基础上, 构建面向论文影响力预测的异构学术网络表示模型, 将所有节点映射到一个统一的低维向量空间中, 通过刻画节点间的分布关系保留网络的局部结构信息。利用低维向量空间中节点之间的相似性重新定义论文引用网络、论文-作者网络以及论文-期刊网络, 并采用基于多变量随机游走的算法计算论文的未来影响力。

1 相关工作 1.1 论文影响力评估与预测

现有的论文影响力评估与预测方法大多通过构建基于图的模型, 即在论文引用网络或相关扩展网络上直接利用随机游走方法实现。文献[9]结合论文引用网络与作者合作网络的网内随机游走和网间随机游走来对论文和作者影响力共同排序。文献[4]通过在包含论文、作者、期刊等实体的异构网络上随机游走的方法同时对论文、作者和期刊进行排名。文献[10]基于不同类型实体间的多维关系提出异构学术超网的概念, 利用论文及作者之间的相互强化对论文进行排序。文献[11]基于新论文较旧论文可能获得更多引用的假设, 利用论文引用关系、作者和论文发表时间等信息计算论文的未来影响力。文献[12]提出的MRCoRank算法是目前较先进的论文影响力预测算法, 该算法将时间及文本信息加入异构学术网络中, 基于论文、作者、期刊和文本特征影响力之间的互增强关系提出影响力排序模型。然而, 这些基于图的方法直接利用边的权重构造实体间的关系矩阵, 仅保留了网络的全局结构信息, 而忽略了局部结构信息对节点影响力评估的重要作用。

1.2 网络表示学习

网络表示学习旨在获得网络中每个节点的向量表示, 并有效地保留网络结构和属性^[13-14]。近年来, 网络表示学习引起了研究人员的极大关注, DeepWalk算法^[15]将深度学习技术应用于网络表示学习, 文献[7]提出适用于大规模有向带权图的Line算法。此后, PTE^[16]、TriDNR^[17]、EOE^[18]、methpath2vec^[19]等模型相继被提出, 并应用于各种数据挖掘和机器学习任务, 如节点分类、节点聚类、链路预测、社区发现和可视化等。但是, 尚未出现将上述方法应用于论文影响力预测的研究。

2 NERank方法

本文提出一种基于网络表示学习的论文影响力预测方法, 其主要包含以下3个关键步骤:1)构建一个包含论文、作者、期刊/会议3种类型实体的异构学术网络, 根据节点间关系的建立时间来定义边的权重, 以指示节点的未来影响力; 2)提出一种面向论文影响力预测的异构学术网络表示模型, 将不同类型的节点表征在同一个低维向量空间中, 以指示节点在网络中的潜在影响力; 3)将学习到的节点向量应用于多变量随机游走方法中, 实现对论文未来影响力的预测。

2.1 异构学术网络构建

定义1(论文引用网络)   令P为论文节点的集合, E_pp为论文之间引用关系的边集合, W_pp为E_pp中边的权重集合, 则论文引用网络定义为:G_pp=(P, E_pp, W_pp)。

定义2(论文-作者网络)   令A为作者节点的集合, E_pa为论文与作者间写作关系的边集合, W_pa为E_pa中边的权重集合, 则论文-作者网络定义为:G_pa=(P∪A, E_pa, W_pa)。

定义3(论文-期刊/会议网络)   令V为期刊/会议节点的集合, E_pv表示论文与期刊/会议间发表关系的边集合, W_pv为E_pv中边的权重集合, 则论文-期刊/会议网络定义为:G_pv=(P∪V, E_pv, W_pv)。

将上述3个网络联结起来, 即可得到如图 1所示的异构学术网络, 其定义如下:

定义4(异构学术网络)   令N={P∪A∪V}、E={E_pp∪E_pa∪E_pv}、W={W_pp∪W_pa∪W_pv}分别表示论文引用网络、论文-作者网络、论文-期刊/会议网络的节点、边以及边的权重的集合, 则异构学术网络定义为G=(N, E, W)。

2.2 异构学术网络表示学习 2.2.1 模型构建

异构学术网络以论文节点为纽带, 由论文引用网络G_pp、论文-作者网络G_pa和论文-期刊/会议网络G_pv这3个不同类型的网络组成。异构学术网络表示模型旨在将学术网络中3种不同类型的节点表征在同一个向量空间中, 并为每个节点学习一个实数向量, 该向量的维度远小于节点个数, 最直观的方式就是将3个网络联合起来学习。通过刻画节点在向量空间中的分布与节点在网络中的分布之间的关系, 保留网络的局部结构信息。令$ \hat {\mathbb{P}} $(p·|p_i)、$ \hat {\mathbb{P}} $(a·|p_i)和$ \hat {\mathbb{P}} $(v·|p_i)分别表示论文p_i在网络G_pp、G_pa和G_pv中的经验分布, 令$ \mathbb{P} $(p·|p_i)、$ \mathbb{P} $(a·|p_i)和$ \mathbb{P} $(v·|p_i)分别表示p_i在低维向量空间中相应的条件概率分布。用KL散度来刻画概率分布和经验分布间的距离, 并使2种分布之间的KL距离最小化, 简化一些常量后的目标函数如式(1)所示。

$ {\cal L} = {{\cal L}_{pp}} + {{\cal L}_{pa}} + {{\cal L}_{pv}} $

(1)

其中:

$ {\mathcal{L}_{pp}} = - \lambda _{pp}^i\hat {\mathbb{P}}\left( {{p_j}|{p_i}} \right)\ln \mathbb{P}\left( {{p_j}|{p_i}} \right) $

(2)

$ {\mathcal{L}_{pa}} = - \lambda _{pa}^i\hat {\mathbb{P}}\left( {{a_j}|{p_i}} \right)\ln \mathbb{P}\left( {{a_j}|{p_i}} \right) $

(3)

$ {\mathcal{L}_{pv}} = - \lambda _{pv}^i\hat {\mathbb{P}}\left( {{v_j}|{p_i}} \right)\ln \mathbb{P}\left( {{v_j}|{p_i}} \right) $

(4)

在式(2)中引入λ_ppⁱ, 表示论文p_i在G_pp中的影响力, 本文定义$ \lambda_{p p}^{i}=\sum \limits_{k \in R_{\mathrm{in}}\left(p_{i}\right)} \omega_{k_{i}} $, 即节点p_i的带权入度, R_in(p_i)表示引用了p_i的论文集合。ω_ki∈E_pp表示边p_k→p_i的权重。本文定义经验分布$ \hat {\mathbb{P}} $(p_j|p_i)= $ \frac{\omega_{i j}}{\sum \limits_{k \in R_{\mathrm{out}}\left(p_{i}\right)} \omega_{i k}} $, R_out(p_i)表示p_i的参考论文集合。考虑到不同时期的引用对论文未来影响力的作用不同, 本文基于论文间的引用关系建立时间来分配不同的权重, 利用时间衰减函数对新的引用关系赋予更高的权重。定义ω_ij=e^{－ρ(T_c－T_i→j}), 其中, ρ是衰减参数, 本文设置为2, T_c表示当前时间, T_i→j表示论文p_i与论文p_j的引用关系发生时间, 即论文p_i的发表时间。$ \mathbb{P} $(p_j|p_i)可由式(5)所示的softmax函数得到。

$ \mathbb{P}\left( {{p_j}|{p_i}} \right) = \frac{{\exp \left( {\mathit{\boldsymbol{p}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right)}}{{\sum\limits_{j \in {V_B}} {\exp } \left( {\mathit{\boldsymbol{p}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right)}} $

(5)

其中, p_i∈ $ \mathbb{R} $^d是节点p_i的d维向量表示, p_j∈$ \mathbb{R} $^d是节点p_j的d维向量表示。

在式(3)中, λ_paⁱ表示论文p_i在G_pa中的影响力, $ \lambda_{p a}^{i}=\sum \limits_{k \in R\left(p_{i}\right)} \omega_{i k} $, R(p_i)表示论文p_i的作者集合, ω_ik∈E_pa表示边p_i→a_k的权重, 本文设置为1。定义经验分布$ \hat {\mathbb{P}}\left(a_{j} | p_{i}\right)=\frac{\omega_{i j}}{\sum \limits_{k \in R\left(p_{i}\right)} \omega_{i k}} $, 而$ \mathbb{P} $(a_j|p_i)由式(5)得到。

在式(4)中, λ_pvⁱ表示论文p_i在G_pv中的影响力, λ_pvⁱ=ω_ik, ω_ik∈E_pv表示边p_i→v_k的权重。本文定义ω_ik=e^{－ρ(T_c-T_pub}), T_pub表示论文发表时间。因为版权问题, 一篇论文只能被一个期刊或会议发表, 所以设置经验分布$ \hat {\mathbb{P}} $(v_j|p_i)=1。$ \mathbb{P} $(v_j|p_i)同样可利用如式(5)所示的softmax函数得到。

2.2.2 模型优化

对于大规模网络而言, 直接计算softmax函数是不切实际的, 一般采用负采样加快训练速度。本文利用负采样技术概率函数得到如下公式:

$ \mathbb{P}\left( {{p_j}|{p_i}} \right) = \sigma \left( {\mathit{\boldsymbol{p}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right) + \sum\limits_{m = 1}^K {\left( {1 - \sigma \left( {\mathit{\boldsymbol{p}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right)} \right)} $

(6)

其中, σ(x)=1/(1+exp(－x))为sigmoid函数, K为负采样比率, 即对每一条边随机采样K条负边, 得到K对不相连的节点。此外, 采用L2范式正则项以避免过拟合, 由于空间限制, 将目标函数L合并同类项后得到如下公式:

$ \begin{gathered} \mathcal{L} = \sum\limits_{(i,j) \in E} {\lambda _{pn}^i\hat {\mathbb{P}}\left( {{n_j}|{p_i}} \right)\ln \left( {1 + \exp \left\{ { - \mathit{\boldsymbol{n}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}} \right)} + \hfill \\ \;\;\;\;\;\;\sum\limits_{(i,j) \notin E} {\lambda _{pn}^i} \ln \left( {1 + \exp \left\{ {\mathit{\boldsymbol{n}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}} \right) + {\gamma _p}\sum\limits_{k = 1}^{\left| P \right|} {{{\left\| {{\mathit{\boldsymbol{p}}_k}} \right\|}_2}} + \hfill \\ \;\;\;\;\;\;{\gamma _a}\sum\limits_{k = 1}^{\left| A \right|} {{{\left\| {{\mathit{\boldsymbol{a}}_k}} \right\|}_2}} + {\gamma _v}\sum\limits_{k = 1}^{\left| V \right|} {{{\left\| {{\mathit{\boldsymbol{v}}_k}} \right\|}_2}} \hfill \\ \end{gathered} $

(7)

其中, γ_p、γ_a和γ_v是正则化系数, (i, j)∉E表示负采样边的集合。对应E中3种不同类型的边时, n_j分别代表论文p_j, 作者a_j和期刊/会议v_j这3种类型的节点。

本文使用梯度下降算法最小化目标函数$ \mathcal{L} $, 并利用回溯线搜索方法在迭代过程中调整步长。$ \mathcal{L} $对p_i、a_j和v_j求导的过程如式(8)~式(10)所示。

$ \begin{gathered} \frac{{\partial \mathcal{L}}}{{\partial {\mathit{\boldsymbol{p}}_i}}} = - \sum\limits_{(i,j) \in E} {\frac{{\lambda _{pn}^i\hat {\mathbb{P}}\left( {{n_j}|{p_i}} \right)\exp \left\{ { - \mathit{\boldsymbol{n}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{{1 + \exp \left\{ { - \mathit{\boldsymbol{n}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{\mathit{\boldsymbol{n}}_j}} + \hfill \\ \;\;\;\;\;\;\;\;\;\sum\limits_{(i,j) \ne E} {\frac{{\lambda _{pn}^i}}{{1 + \exp \left\{ { - \mathit{\boldsymbol{n}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{\mathit{\boldsymbol{n}}_j}} + {\gamma _p}\sum\limits_{d = 1}^{{D_p}} {2\mathit{\boldsymbol{p}}_i^d} \hfill \\ \end{gathered} $

(8)

$ \begin{gathered} \frac{{\partial \mathcal{L}}}{{\partial {\mathit{\boldsymbol{a}}_j}}} = - \sum\limits_{(i,j) \in {E_{pa}}} {\frac{{\lambda _{pa}^i\hat {\mathbb{P}}\left( {{a_j}|{p_i}} \right)\exp \left\{ { - \mathit{\boldsymbol{a}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{{1 + \exp \left\{ { - \mathit{\boldsymbol{a}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{\mathit{\boldsymbol{p}}_i}} + \hfill \\ \;\;\;\;\;\;\;\;\;\sum\limits_{(i,j) \notin {E_{pa}}} {\frac{{\lambda _{pa}^i}}{{1 + \exp \left\{ { - \mathit{\boldsymbol{a}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{\mathit{\boldsymbol{p}}_i}} + {\gamma _a}\sum\limits_{d = 1}^{{D_a}} {2\mathit{\boldsymbol{a}}_j^d} \hfill \\ \end{gathered} $

(9)

$ \begin{gathered} \frac{{\partial \mathcal{L}}}{{\partial {\mathit{\boldsymbol{v}}_j}}} = - \sum\limits_{(i,j) \in {E_{pv}}} {\frac{{\lambda _{pv}^i\hat {\mathbb{P}}\left( {{v_j}|{p_i}} \right)\exp \left\{ { - \mathit{\boldsymbol{v}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{{1 + \exp \left\{ { - \mathit{\boldsymbol{v}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{\mathit{\boldsymbol{p}}_i}} + \hfill \\ \;\;\;\;\;\;\;\;\sum\limits_{(i,j) \notin {E_{pv}}} {\frac{{\lambda _{pv}^i}}{{1 + \exp \left\{ { - \mathit{\boldsymbol{v}}_j^{\text{T}} \cdot {\mathit{\boldsymbol{p}}_i}} \right\}}}{\mathit{\boldsymbol{p}}_i}} + {\gamma _v}\sum\limits_{d = 1}^{{D_v}} {2\mathit{\boldsymbol{v}}_j^d} \hfill \\ \end{gathered} $

(10)

其中, D_p、D_a和D_v分别表示论文、作者和期刊/会议节点向量表示的维度, 本文设置为D_p=D_a=D_v=d。

将本文异构学术网络表示学习算法命名为HANE, 其具体描述如算法1所示。

算法1  HANE算法

输入  网络G/(N, E, W), 向量维度d, 正则项系数γ_p、γ_a和γ_v, 负采样比率K, 初始步长η

输出  论文、作者及期刊/会议的d维向量表示

1.初始化论文、作者及期刊/会议的向量表示。

2.while (目标函数不收敛) do

3.基于式(8)计算论文的梯度;

4.利用回溯线搜索更新步长η;

5.更新论文的向量表示;

6.利用式(8)学习作者的向量表示, 过程与步骤2~步骤5类似。

2.3 基于多变量随机游走的论文影响力排序

通过上述的异构学术网络表示学习过程, 3种类型节点的未来影响力被表征在一个统一的低维向量空间中, 通过保留网络的局部结构信息使得具有相似潜在影响力的节点在低维向量空间中彼此接近。基于学习到的论文向量表示, 节点p_i和节点p_j之间的相似度可通过式(11)来计算。

$ \mathit{Sim}\left( {{p_i},{p_j}} \right) = \frac{{{\mathit{\boldsymbol{p}}_i} \cdot {\mathit{\boldsymbol{p}}_j}}}{{\left\| {{\mathit{\boldsymbol{p}}_i}} \right\| \times \left\| {{\mathit{\boldsymbol{p}}_j}} \right\|}} $

(11)

同理, 可以计算得到论文p_i与作者a_j间的相似度Sim(p_i, a_j)以及论文p_i与期刊/会议v_j间的相似度Sim(p_i, v_j)。因此, 论文引用网络可以重新定义为如下形式:

$ {\mathit{\boldsymbol{M}}_{pp}}(j,i) = \left\{ {\begin{array}{*{20}{l}} {\frac{{\mathit{Sim}\left( {{p_i},{p_j}} \right)}}{{\sum\limits_{{p_k} \in R\left( {{p_i}} \right)} {\mathit{Sim}} \left( {{p_i},{p_k}} \right)}},{e_{{p_i}{p_j}}} \in {E_{pp}}}\\ {0,其他} \end{array}} \right. $

(12)

其中, e_pipj表示连接2个节点的边, R(p_i)表示p_i的邻居节点集合。同理, 可以得到表示论文-作者网络G_pa的转移矩阵M_pa与M_ap, 以及表示论文-期刊/会议网络G_pv的转移矩阵M_pv与M_vp。

得到上述转移矩阵后, 进一步提出基于多变量马尔可夫链的随机游走模型, 论文、作者和期刊/会议的影响力在式(13)~式(15)的迭代过程中相互影响和增强, 最终得到论文的影响力指数。

$ {\mathit{\boldsymbol{P}}^{(t + 1)}} = \alpha {\mathit{\boldsymbol{M}}_{pp}}{\mathit{\boldsymbol{P}}^{(t)}} + \beta {\mathit{\boldsymbol{M}}_{pa}}{\mathit{\boldsymbol{A}}^{(t)}} + \gamma {\mathit{\boldsymbol{M}}_{pv}}{\mathit{\boldsymbol{V}}^{(t)}} $

(13)

$ {\mathit{\boldsymbol{A}}^{(t + 1)}} = {\mathit{\boldsymbol{M}}_{ap}}{\mathit{\boldsymbol{P}}^{(t)}} $

(14)

$ {\mathit{\boldsymbol{V}}^{(t + 1)}} = {\mathit{\boldsymbol{M}}_{vp}}{\mathit{\boldsymbol{P}}^{(t)}} $

(15)

其中, P^(t)、A^(t)和V^(t)分别表示论文、作者和期刊/会议在第t次迭代后的概率分布向量, 向量中的值代表其相应的未来影响力。参数α、β和γ分别控制论文未来影响力受其他论文、作者和期刊/会议影响的权重, α+β+γ=1。最后, 通过迭代执行式(13)~式(15)直至收敛, 将收敛后的P由高到低排序, 即可得到论文的未来影响力排序。

3 实验结果与分析 3.1 实验数据

本文实验采用AMiner公开发表的Academic Social Network数据集, 包括发表于2014年前的2 092 356篇论文、1 712 433位作者以及8 024 869条引用关系^[20]。对数据集进行如下预处理:1)本文侧重于预测较新论文的未来影响力, 因此仅保留发表于1998年以后的论文数据; 2)去除信息不完整的论文数据, 例如缺失作者信息或发表时间的论文; 3)去除没有任何参考文献或未被其他论文引用的数据。经过数据预处理后, 得到328 971篇论文和2 732 340条论文引用关系。

3.2 评估指标

由于论文影响力预测缺少统一的标准, 因此评估实验结果具有一定的挑战性。本文采用文献[11]的方法, 将论文的未来引用数(Future Citations, FC)作为论文未来影响力的评估标准。具体来讲, 本文将发表于2009年之前的论文作为训练数据, 计算其未来影响力并进行排序, 然后根据这些论文在2010年—2014年间的引用次数对排序结果进行评估。经过划分后的训练数据中包含127 711篇论文、558 138条引用关系、383 276条论文-作者的写作关系以及76 432条论文-期刊/会议的所属关系。

为了评估本文NERank算法的性能, 本文采用以下2个评估指标:1)机器学习中常用的准确率(Precision)指标; 2)考虑到返回的论文影响力预测结果存在顺序, 采用文献[4, 12]使用的推荐强度(Recommendation Intensity, RI)作为评估各算法的指标。令R表示任一算法返回的Top-k个论文序列, L表示评估标准FC返回的Top-k个论文序列, 论文p_i在R中的顺序记为o_r, 则p_i的RI值可定义为:

$ RI\left( {{p_i}} \right)@k = \left\{ {\begin{array}{*{20}{l}} {1 + \frac{{k - {o_r}}}{k},{p_i} \in L}\\ {0,{p_i} \notin L} \end{array}} \right. $

(16)

式(16)表示如果论文p_i在L中且其在R中的排名越靠前, 它的RI值越高。基于R中每篇论文的RI值, Top-k个序列R的RI值可定义为:

$ RI(R)@k = \sum\limits_{{p_i} \in R} R I\left( {{p_i}} \right)@k $

显然, RI(R)@k值越大表示论文排序结果越好。可以看出, 如果将R视为无序序列, 用RI(R)@k除以k, 即可得到准确率指标, 为方便表述, 下文将RI(R)@k简写为RI@k。

3.3 对比方法

为了评估NERank算法的预测性能, 将以下5种论文影响力预测算法与本文算法进行对比:

1) PageRank算法^[2]:在论文引用网络中通过PageRank算法对论文影响力进行排序, 其中边的权重设置同本文的W_pp。

2) FutureRank算法^[10]:该算法是预测未来论文影响力排名的代表性模型, 其结合引文、作者和论文发表时间等信息来对论文的未来影响力进行预测。

3) HHGBiRank算法^[9]:利用论文和作者间的多维关系, 构建基于异构学术超网的模型对论文影响力进行排序。

4) MRCoRank算法^[11]:将论文、作者、期刊、文本特征集成到统一的框架中, 通过一种互增强模型对论文、作者等实体的未来影响力进行排序。

此外, 本文还将NERank与其变种方法NERank-NE(不包含网络表示学习过程)进行对比。

3.4 参数设置

本文实验参数设置如下:

1) 向量维度设置。在网络表示学习模型中, 正则项系数γ_p=γ_a=γ_v=1, 负采样比率K=5。在实验中, 将向量维度d设置不同的取值, 以Top-20的论文为例, 计算d对NERank算法的准确率和RI值的影响, 结果如表 1所示。可以看出, d=100是一个较合理的选择, 因此在以下实验中将100作为d的默认取值。

2) 式(13)中的调节参数设置。通过固定γ求α和β, 固定α求β和γ的方法观察不同取值对RI值的影响, 其中, 参数α对RI值的影响如图 2所示。可以看出, α=0.6时实验效果较好, 此时, β=0.25, γ=0.15。

3.5 结果分析

本文首先根据6种算法返回的Top-100的论文, 计算其准确率和RI值, 结果如图 3所示。

由图 3可知, MRCoRank算法优于PageRank、FutureRank、HHGBiRank和NERank-NE这4种算法。与MRCoRank相比, NERank算法的准确率提升6.0%, RI值提升16.5%, 这是因为NERank算法采用网络表示学习结合多变量随机游走的方法, 能够更有效地利用学术网络的局部结构和全局结构信息, 改善预测性能。

通过数据统计可以发现, 不同领域的论文获得的引用数据差别较大, 例如, 按照未来引用数排序得到的Top-100的论文中, 39篇属于人工智能领域, 而仅有3篇属于网络安全领域。一般情况下, 研究人员更关注与自己研究领域相关的文献, 因此, 为了使评价结果更公正且更具实际价值, 本文进一步将论文按照领域分类并进行比较。本文给出6种算法对于人工智能、数据库以及网络安全3个领域的论文预测结果对比, 如表 2所示, 最优结果加粗表示。

由表 2可知, 各算法针对不同领域论文的影响力预测效果存在差异。以Top-50论文的预测结果为例, 相比于MRCoRank算法, NERank算法对人工智能、数据库、网络安全3个领域论文的RI值分别可提高13.12%、0.14%和16.12%。从整体上看, NERank算法、MRCoRank算法和FutureRank算法结果优于PageRank算法和HHGBiRank算法, 这是因为PageRank算法与HHGBiRank算法未考虑时间信息和期刊信息的影响, 说明加入时间信息与期刊信息可改善论文影响力预测的准确性。NERank算法优于其他对比算法, 说明结合网络表示学习和多变量随机游走的方法可取得更精确的预测结果。上述结果表明, 通过网络表示学习模型学习各节点在异构学术网络上的潜在影响力之间的相似性, 并结合常用的多变量随机游走模型, 能更有效地保留学术网络的局部结构以及全局结构, 有助于提升论文影响力预测的准确性。

4 结束语

为了提高论文影响力预测的准确性, 本文提出网络表示学习与多变量随机游走方法相结合的论文影响力预测算法NERank。建立一个包含论文、作者、期刊/会议3种实体的时间感知异构学术网络, 根据各节点间关系建立的时间来设置边的权重, 以指示各节点的未来影响力。在此基础上, 建立一种面向论文影响力预测的异构学术网络表示模型, 将不同类型的节点表示在同一向量空间中并保留网络局部结构, 以指示其在网络中的潜在影响力。将节点之间的向量相似度应用于多变量随机游走的转移过程中, 并计算论文的未来影响力。实验结果表明, 该算法可有效提高论文影响力预测的准确性。下一步考虑将NERank算法推广至具有相似结构的其他异构网络中, 或者将保留节点属性的异构网络表示学习模型应用于多类型实体的联合排序任务, 拓展该算法的应用领域。