0 概述

随着信息时代的发展, 人们对互联网的依赖性日益增强, 越来越多的人在社交网络上发表自己的看法或者记录自己的生活。社交网络改变了人与人之间交流的方式并且拉近了人与人之间的距离。据2018年新浪微博第四季度财报数据显示, 截至2018年11月, 微博月活跃用户已经增至4.62亿, 与2017年同期相比增长15%, 已成为中国最主要的舆论阵地。由于用户在微博上可以随意发布信息, 因此微博在成为人们日渐重要的社交平台的同时也成为垃圾用户发布垃圾信息的平台。已有研究表明微博中垃圾用户的异常行为会显著降低用户体验, 增加微博社交风险^[1-2]。

目前针对垃圾用户已开展了很多研究, 但主要都是针对Twitter和Facebook^[3-5], 对微博垃圾用户的研究相对而言起步较晚。垃圾用户包含内容垃圾、僵尸垃圾和封号垃圾等, 僵尸垃圾又称为僵尸粉、社交僵尸, 其多数由程序生成并控制, 目的是增加用户粉丝的数量, 制造出高影响力的假象。除此之外, 部分僵尸粉还会传播各种营销信息, 严重威胁社交平台的安全和公信力^[6]。由于僵尸粉一直在不断地学习和模仿正常用户的行为, 导致新浪微博中现存的初代僵尸粉数目已很少, 取而代之的是高级僵尸粉。高级僵尸粉不仅拥有正常的昵称和头像, 还会发布原创微博, 互相给微博点赞和评论。越来越多高级僵尸粉的出现, 给微博僵尸粉账号的检测增加了难度。为准确检测僵尸粉, 本文基于深度学习方法构造一个基于神经网络的僵尸粉识别模型(Zat-NN)。

1 基础研究与相关工作 1.1 相关基础研究

情感分析也称为意见挖掘^[7], 是自然语言处理领域的一个重要方向, 其是对带有情感色彩的主观性文本进行分析、处理和推理的过程。最初的文本情感分析方法多数是基于情感词词典, 但是人工构建词典需要较大代价, 且预测准确率较低。如今, 情感分析已逐渐引入深度学习方法, 例如文献[8-9]。在将深度学习方法应用于文本分类任务时, 需将单词转换为高维分布向量以捕获关于单词的形态、句法和语义信息。词向量之间的集合关系对应词与词之间的语义关系^[10]。本文对微博文本做情感分析时采用词嵌入方法。

长短时记忆(Long Short Term Memory, LSTM)网络是一种特殊的递归神经网络(Recursive Neural Network, RNN), RNN是具有循环结构的网络。与传统RNN不同的是, LSTM能使携带信息跨越多个时间步, 保留时刻t的记忆并允许过去的信息稍后进入, 从而解决梯度消失问题。LSTM单元拥有输入门、遗忘门和输出门, 分别用i_t、f_t和o_t表示。图 1是一个标准的LSTM单元结构, 其中, x_t是当前时刻的输入向量, h_t是当前时刻单元的输出向量, h_t－1是前一个时刻单元的输出向量, c_t是存储单元, g_t是存储单元前一个时刻的状态。

1.2 垃圾用户检测研究

水军和僵尸粉为垃圾用户的主要组成部分, 两者间有很多相似性, 都是通过程序控制微博账号以达到非法传销、盈利等目的, 并且对微博水军进行研究可以更好地分析僵尸粉的行为。文献[11]基于贝叶斯模型, 通过添加粉丝关注比、平均发布微博数、互相关注数、综合质量评价、收藏数和阳光信用6个特征显著提高水军的识别准确率。文献[12]利用SVM算法, 添加事件参与度、二阶关联性、关系紧密度和引导工具使用率这4个新特征, 既保证了水军的高识别率, 又减少了识别时间。

微博僵尸粉账号检测是一个二分类问题。僵尸粉统称为spammers, 目前国内外已有很多学者对识别僵尸粉进行研究。文献[13]利用用户粉丝数、关注数、博文等特征信息, 采用机器学习相关技术从用户中分离出僵尸粉, 但其仅是针对Twitter上的僵尸粉, 对于国内微博僵尸粉的识别有局限性。文献[3]指出合法用户所发的推特通常和个人描述中所写的兴趣爱好相关, 并且推特内容具有连续性, 通过计算个人描述和推特内容的相似度来区分普通用户和spammers。文献[14]利用朴素贝叶斯、支持向量机、多层感知器神经网络等分类器对Twitter上的用户进行建模和分析, 研究发现推特的平均长度、账号年龄、平均发文时长等特征对检测spammers有重要作用。文献[15]通过从用户的粉丝中挖掘凝聚子群, 结合用户的社会网络关系, 提出一种基于用户粉丝聚类现象的僵尸粉检测模型, 但该方法需要获取每个用户的全部粉丝信息, 实现方法复杂。文献[16]通过构建用户的粉丝数、关注数、微博数、转发数、微博转发情况、微博评论情况、分时段发博数等用户行为特征向量进行僵尸粉识别。文献[17]指出僵尸粉会对传统舆情分析模型造成极大误判, 并根据用户个人信息、博文信息实现基于贝叶斯模型的僵尸粉自动判别。

2 问题定义

本节将形式化定义僵尸粉检测, 为更好地表达下文内容, 给出如表 1所示的符号定义及其含义。

给定一个社交网络G=(V, E), 其中, G为一个有向图, V={U∪C}表示全部微博用户和用户特征集合, U={u₁, u₂, …, u_n}表示用户集合, C={c₁, c₂, …, c_n′}表示用户特征集合, E⊂{C×U}表示用户和用户特征之间对应关系的集合, 每一个用户与其用户特征间的关系为e_ij=(u_i, c_j), 表示用户u_i具有特征c_j。本文目标是找到一个预测函数f实现全部微博用户的分类:

$ f:(V,E) \to (Y,Z) $

(1)

其中, Y和Z分别代表正常用户和僵尸粉这两个用户类别集合。

3 微博情感特征

经过研究发现, 僵尸粉微博中多数为软文广告和无意义词句等, 这与正常用户的微博内容有很大区别。又由于卷积神经网络(Convolutional Neural Network, CNN)可以将长序列转换为由高级特征组成的更短序列, 提取有用特征作为LSTM网络的输入, 因此本文通过添加卷积层来提高情感分析模型的准确率, 并基于CNN-LSTM神经网络对用户原创微博进行情感分析。

3.1 文本情感分析模型

CNN-LSTM神经网络模型包含输入层、卷积层、池化层、LSTM层和分类器层, 如图 2所示。

在图 2中, e表示输入文本的长度, d为词向量维数, 则M∈$\mathbb R^{{\rm e} \times d}$表示句子矩阵。卷积操作涉及卷积核, 通过将卷积核滑动s个单位步长进行卷积计算得到局部特征值ξ, 当卷积核应用于句子的每个词汇窗口时生成特征图, 并在特征图上应用成对最大池操作以捕获最重要的特征, 输出特征值p。池化操作可被视为自然语言处理中的特征选择, x₁~x_m为LSTM单元的输入向量, 特征值p经过LSTM层后输出为h向量, 最终经过sigmoid激活函数实现分类。

在将微博文本输入模型前需先对收集到的微博做预处理并删除重复微博。本文用Jieba工具去除停用词, 通过预训练好的词嵌入模型^[18]将文本向量化, 在该词嵌入模型中的每个词向量都为$\mathbb R^{300 \times 1}$维。

3.2 模型求解与应用

文本情感分析模型求解的目标是使目标函数最小化, 目标函数为:

$ {\rm{min}} \frac{1}{N}\sum\limits_{i = 1}^N L (f(x;\theta ),y) + \lambda J(f) $

(2)

其中, N为训练样本数目, L为每个样本的损失函数, f(x; θ)为输入x时函数的预测输出, y为目标输出, J(f)为函数的正则化项。本文采用Adam^[19]优化器来加快该模型收敛速度。此外, 为了防止训练时出现过拟合, 使用Dropout^[20]方法通过丢弃部分隐藏层神经元来降低过拟合。

采用训练好的文本情感分析模型对每个用户的每条原创微博进行情感预测, 将有明显情感特征的微博标记为1, 没有明显情感特征的微博标记为0, 用户原创微博中情感预测标签为1的微博所占比例作为用户特征表的第11个特征, 即F₁₁。

4 微博非情感用户特征

除了微博情感特征外, 本文还提取了10个非情感用户特征, 具体为粉丝数(F₁)、关注数(F₂)、关注粉丝比(F₃)、用户名特征(F₄)、用户描述(F₅)、微博数(F₆)、转发比(F₇)、日均转发微博数(F₈)、发博工具(F₉)和微博影响力(F₁₀), 详见表 2。

由于高级僵尸粉比普通僵尸粉更加难检测, 因此本文新添加了日均转发微博数(F₈)和发博工具(F₉)这两个非情感用户特征来提高检测准确率。

4.1 数据获取及特征分析

本节对通过某电商平台购买的200个僵尸粉以及微博爬虫爬取的800个正常用户进行特征分析。将该1 000个用户组成的数据集称为小数据集, 并在小数据集上分析并研究用户属性、用户行为和微博内容特征。

4.1.1 用户属性特征

用户属性特征具体如下:

1) 粉丝数(F₁)。F₁为某用户的粉丝总数, 用Fans表示粉丝数, 用户u_j的粉丝数表示为Fans_uj, 该特征计算公式如下:

$ {\rm{Fan}}{{\rm{s}}_{{u_j}}} = \{ \left\| {{u_i}} \right\||{u_i} \to {u_j},{u_i}{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \in {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} U,{u_j}{\kern 1pt} {\kern 1pt} {\kern 1pt} \in {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} U\} $

(3)

其中, u_i→u_j表示用户u_i关注用户u_j, Fans_uj为全体u_i的个数。

2) 关注数(F₂)。F₂为某用户关注的其他用户总数, 用Follow表示关注数, 则用户u_j的关注数表示为Follow_uj, 该特征计算公式如下:

$ {\rm{Follo}}{{\rm{w}}_{{u_j}}} = \{ \left\| {{u_i}} \right\||{u_j} \to {u_i},{u_i}{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \in {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} U,{u_j}{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \in {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} U\} $

(4)

僵尸粉的关注数远高于正常用户, 因为僵尸粉通常通过关注正常用户来获取利益。

3) 关注粉丝比(F₃)。F₃用FF_ratio表示关注粉丝比, 该特征计算公式如下:

$ {\rm{F}}{{\rm{F}}_{{\rm{ratio}}}} = \frac{{{\rm{ Follow }}}}{{{\rm{ Fans }}}} $

(5)

由于普通僵尸粉关注数很多而粉丝数很少, 因此会导致F₃数值较大。

图 3为小数据集中的全部用户粉丝数与关注数分布。

可以看出, 僵尸粉和正常用户的关注数、粉丝数分布有很大差异。65%的僵尸粉关注数超过1 000且粉丝数低于500个, 属于较低级别的僵尸粉, 22.5%的僵尸粉拥有的粉丝数超过1 000个, 这与僵尸粉粉丝少的特征相违背。通过对这22.5%的僵尸粉研究, 发现其粉丝中90%以上都是僵尸粉, 说明高级僵尸粉通过互相关注的方式来增加双方的粉丝数。僵尸粉将通过这种互相关注行为来大幅降低关注粉丝比值, 所以为对这类高级僵尸粉进行准确分类, 需要更多有效的用户特征。

4.1.2 用户行为特征

用户行为特征具体如下:

1) 用户名特征(F₄)。F₄用于检测某用户的昵称组成结构是否为“用户+用户id号”, 可以快速分类出这类拥有低级昵称的僵尸粉。

2) 用户描述(F₅)。F₅为用户注册账号后添加的自我介绍。据统计, 小数据集中有约70%的僵尸粉没有自我介绍, 而正常用户无自我介绍的数量只占20%, 差异显著。由此可知, F₅可作为分类僵尸粉和正常用户的有效特征。

3) 微博数(F₆)。F₆为用户自注册账号以来发布的微博总数。微博总数用Weibo_num表示, 包含原创和转载的微博。

4) 转发比(F₇)。F₇用Retweet_ratio表示, 该特征计算公式如下:

$ {\rm{Retwee}}{{\rm{t}}_{{\rm{ratio}}}} = \frac{{{\rm{Retwee}}{{\rm{t}}_{{\rm{num}}}}}}{{{\rm{ Weib}}{{\rm{o}}_{{\rm{num}}}}{\rm{ }}}} $

(6)

其中, Retweet_num为用户转发的微博数, Weibo_num为用户发博总数。转发的微博数衡量了用户与其他用户的互动程度。因为某些僵尸用户只会定期发布原创微博而不会转发他人微博, 所以转发比相较于正常用户会比较小。

5) 日均转发微博数(F₈)。F₈为本文提出的特征, 用Retweet_one表示用户日均转发微博数, Retweet_day表示用户有过转发行为的天数, 则Retweet_one计算公式如下:

$ {\rm{Retwee}}{{\rm{t}}_{{\rm{one}}}} = \frac{{{\rm{Retwee}}{{\rm{t}}_{{\rm{num}}}}}}{{{\rm{ Retwee}}{{\rm{t}}_{{\rm{day}}}}{\rm{ }}}} $

(7)

一些僵尸账号为了制造活跃的假象或者传播营销信息, 通常会在较短时间内大量转发指定用户的微博, 然而正常用户是有针对性的转发自己感兴趣的微博, 所以僵尸粉的日均转发微博数远超过正常用户。图 4为僵尸粉与正常用户的日均转发微博数的累积分布函数(Cumulative Distribution Function, CDF)对比图, CDF图不仅能清晰地描述数据的概率分布, 而且能直观地体现正常用户和僵尸粉在某个特征上的差异。图 4中的两条曲线有明显区别, 表示日均转发微博数(F₈)在僵尸粉和正常用户之间有较好的区分度。可以看出, 几乎所有的正常用户日均转发微博数都很低, 而约有20%的僵尸粉日均转发微博数超过5条。该特征较F₇更具区分度, 能更准确地检测出部分僵尸粉。

6) 发博工具(F₉)。F₉为本文提出的特征, 指用户发布原创微博时的主要工具。若某用户同时用过weibo.com和手机客户端发过微博, 则计算出每个工具各占的百分比, 所占比例最高的工具为用户主要发博工具。对小数据集中的用户发博工具进行统计后发现, 98%的正常用户主要用手机发布微博, 只有2%的正常用户使用浏览器。而大部分僵尸粉发博工具为浏览器, 因为相较于手机微博客户端而言, 网页版更容易用程序控制。

4.1.3 微博内容特征

微博内容特征为微博影响力(F₁₀), F₁₀为本文提出的特征, 用Influence_w表示微博影响力, 该特征计算公式如下:

$ {\rm{Influenc}}{{\rm{e}}_w} = \frac{{{\rm{Lik}}{{\rm{e}}_{{\rm{num}}}} + {\rm{R}}{{\rm{R}}_{{\rm{num}}}} + {\rm{Co}}{{\rm{m}}_{{\rm{num}}}}}}{{{\rm{Origina}}{{\rm{l}}_{{\rm{num}}}}}} $

(8)

其中, Like_num、RR_num、Com_num分别表示用户原创微博所获的点赞总数、转发总数和评论总数, Original_num为用户所发原创微博总数。F₁₀简单描述为用户平均每一条原创微博所获点赞、转发、评论数之和。僵尸粉虽然会发布原创微博, 但其由于缺乏正常的社交关系, 因此所发微博一般不会有用户去评论、点赞, 导致F₁₀值很低。通过将原创微博所获评论数、点赞数以及转发数相结合, 可以更有效地区别高级僵尸粉。

5 微博僵尸粉识别模型

本文提出的Zat-NN模型基于BP神经网络, 由输入层、隐藏层和输出层组成。输入层和输出层的神经元个数分别由输入参数及输出参数个数决定, 如图 5所示。

Zat-NN模型结构具体如下:

1) 输入层, 其中x₁~x_k为输入层节点的输入值。在僵尸粉检测中, x₁~x_k对应于某用户的特征数, 若用户有F₁~F₁₁全部11个特征, 则此时x_k为x₁₁。

2) 隐藏层, Zat-NN模型共含两层隐藏层, 隐藏层节点个数均设为13个。

3) 输出层, 其中$\hat y_i$为模型输出结果。由于从微博平台中分离出僵尸粉是一个二分类问题, 因此本文使用sigmoid函数输出用户分类结果。sigmoid函数常被用作神经网络的阈值函数, 可将变量映射到0~1。若用S(x)表示x的输出概率, 则:

$ S(\mathit{\boldsymbol{x}}) = \frac{{{{\rm{e}}^\mathit{\boldsymbol{x}}}}}{{{{\rm{e}}^\mathit{\boldsymbol{x}}} + 1}} $

(9)

用户判断是否为僵尸粉的规则如下:

$ \hat y = \left\{ {\begin{array}{*{20}{l}} {1,S(\mathit{\boldsymbol{x}}) > \eta ,S(\mathit{\boldsymbol{x}}){\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \in {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} [0,1]}\\ {0,{\rm{ 其他 }}} \end{array}} \right. $

(10)

当S(x)大于η时, 用户预测标签$\hat y$为1, 即将其分类为正常用户; 否则分类为僵尸粉。

6 实验结果与分析 6.1 数据集描述

本文设计一个基于Spider框架的分布式爬虫, 用于爬取新浪微博用户的个人信息及所发微博, 微博时间跨度为2014年1月1日——2019年4月30日。经过两个星期的爬取, 共获得15 271个用户信息及1 535 503条微博。采用人工方式对爬取到的用户数据进行标注, 判别分析得到僵尸粉账号1 200个, 通过加入网上购买的800个纯净僵尸粉账号组成2 000个僵尸粉样本。为模拟更加真实的微博环境, 正常用户与僵尸粉的比例设置为4:1。从数据库中提取出8 000个正常用户与2 000个僵尸粉样本混合组成实验原始数据集。Zat-NN模型的训练集和测试集用户个数分布如表 3所示。

CNN-LSTM情感分析模型的训练集是由没有入选原始实验数据集的用户所发的微博组成。人工对每一条原创微博内容进行情感标注, 若微博含有较明显的情感特征, 则将其标记为1, 否则标记为0。最终的微博数据集中共有10万条微博, 其中有61 424条标记为0的微博, 38 576条标记为1的微博。

6.2 数据集预处理

对Zat-NN模型实验数据进行预处理, 由于将取值范围差异很大的数据输入到神经网络会造成神经网络学习困难并且会使网络过拟合, 因此需对除F₄和F₅这两个特征外的9个浮点型类型的特征均做标准化处理, 标准化处理公式如下:

$ f_i^* = \frac{{{f_i} - {\mu _i}}}{{{\sigma _i}}} $

(11)

其中, f_i^*为标准化处理后的特征值, i∈[1, 2, 3, 6, 7, 8, 9, 10, 11], f_i为未经处理的特征值, μ_i为该特征值的平均数, σ_i为该特征值的标准差。处理后的特征平均值为0, 标准差为1, 将Zat-NN模型预处理后的实验数据集记为D₁。需要注意的是训练集和测试集应分开做预处理, 对文本情感分析模型微博数据的预处理为删除重复微博无用标签、特殊符号和停用词, 然后进行分词。

6.3 实验环境与参数设置

实验运行环境为Ubuntu操作系统, 2.5 GHz处理器, 8 GB内存, 神经网络模型用Keras实现。实验采用十折交叉验证方法来验证模型性能, 将数据集的10%作为测试集, 余下的90%随机分成10等份互不相交的子集, 每次训练都用9份子集作为训练集, 剩下1份子集作为验证集, 然后交叉验证重复10次。验证准确率取10次训练验证结果的平均值。

实验参数设置如下:CNN-LSTM文本情感分析模型的卷积层卷积核数目为64, 卷积窗口长度为5, 卷积步长设为1, 激活函数采用ReLU, 池化层的最大池化窗口大小为4, LSTM层输出空间维度为70, 学习率设为默认值0.001, dropout比率设置为0.2, 每次训练32个样本; Zat-NN模型的激活函数采用ReLU, 学习率设为0.001, dropout比率设置为0.2, batch_size设为16。

6.4 实验评价指标

微博僵尸账号识别结果的主要评价指标为识別准确性, 主要包括正确率(Accuracy)、准确率(Precision)、召回率(Recall)、F1值、假阳率(False Positive Rate, FPR)、ROC曲线。本文采用的是Accuracy、Precision、Recall和F1值这4个评价指标。

1) 正确率计算公式如下:

$ {\rm{Accuracy}} = \frac{{{\rm{ Correc}}{{\rm{t}}_{{\rm{num}}}}{\rm{ }}}}{n} $

(12)

其中, Correct_num为被模型正确分类的用户数, n为用户总数。正确率越高, 模型分类性能越好。

2) 准确率计算公式如下:

$ {\rm{Precision}} = \frac{{{\rm{TP}}}}{{{\rm{TP}} + {\rm{FP}}}} $

(13)

其中, TP为被模型正确分类为僵尸粉的用户数量, FP为被模型错误分类为僵尸粉的正常用户数量。

3) 召回率计算公式如下:

$ {\rm{Recall }} = \frac{{{\rm{TP}}}}{{{\rm{TP}} + {\rm{FN}}}} $

(14)

其中, FN为被模型错误分类为正常用户的僵尸粉数量。

4) F1值计算公式如下:

$ F1 = \frac{{2 \cdot {\rm{ Precision }} \cdot {\rm{ Recall }}}}{{{\rm{ Precision }} + {\rm{ Recall}}}} $

(15)

F1值为准确率和召回率的加权调和平均, 是对准确率和召回率的综合考虑。F1值越高, 模型分类性能越好。

6.5 实验对比模型与结果分析

为证明本文构建Zat-NN模型的有效性, 将Zat-NN模型与文献[16, 22]方法进行对比实验, 3种方法的分类结果正确率和召回率如表 4所示。可以看出, 对比文献[16, 22]方法, 本文Zat-NN模型正确率、召回率均最高, 证明了本文方法的有效性。另外, 分析发现文献[16, 22]方法在本文获取到的用户数据集上识别准确率较低的原因为文献[16]方法中添加的用户特征虽然多, 但是其中第9个至第12个用户特征(每天00:00—06:00平均发博数、06:00—12:00平均发博数、12:00—18:00平均发博数、18:00—24:00平均发博数)过于冗余, 现在的高级僵尸粉不会每天固定时间段发布微博, 导致分类效果不明显, 而文献[22]方法中添加的用户特征较少, 无法全面覆盖现有僵尸粉的特征。

为验证本文提出3个新特征的有效性, 将Zat-NN模型在删除F₈、F₉和F₁₁特征后的数据集上进行实验, 并将该实验结果与添加F₈、F₉和F₁₁特征后的Zat-NN模型实验结果进行对比, 如图 6所示。实验结果表明, 模型添加了新特征后正确率、准确率、召回率和F1值均有提高, 可以看出若使用无新特征的用户集, Zat-NN模型的各项评价指标均有显著下降, 从而说明添加新特征对微博僵尸粉检测的有效性及重要性。

为验证本文提出的微博情感特征(F₁₁)的有效性, 构建数据集D₂, 数据集D₂中不包含特征F₁₁。将Zat-NN、贝叶斯(Bayes)、支持向量机(Support Vector Machine, SVM)、K最近邻(K-Nearest Neighbor, KNN)4种模型分别在数据集D₁和数据集D₂上进行实验, 实验结果见表 5, 其中的D₁和D₂分别表示模型在添加了微博情感特征的数据集和在未添加微博情感特征的数据集上进行实验。通过对比发现, 在具有同样特征的用户数据集上, Zat-NN模型比传统机器学习模型识别准确率高, 而没有添加微博情感特征的模型评价指标均下降, 其中SVM模型正确率下降4%, 准确率下降5.6%, 召回率下降14%, F1值下降10.2%, 从而验证添加微博情感特征对僵尸粉账号识别的有效性。

为证明添加卷积层对情感分析的有效性, 将CNN-LSTM模型与Bayes、SVM和仅含LSTM层的模型进行对比。各模型在验证集上的准确率如表 6所示。由此可知, 融合了CNN层的CNN-LSTM文本情感分析模型准确率最高, 比仅含LSTM层的模型准确率提高了4.7%, 从而证明添加卷积层对文本情感分析的有效性。

同时, 为验证每个用户特征对模型检测的贡献程度, 将神经网络输入层到隐藏层节点的连接权重矩阵的绝对值之和做归一化处理, 设w_i为第i个输入层节点权重值, w_ij为第i个输入层节点的第j个隐藏层节点的连接权重值, 计算公式如下:

$ {\mathit{\boldsymbol{w}}_i} = \frac{{\sum\limits_{j = 1}^n | {w_{ij}}|}}{{\sum\limits_{i = 1}^m {\sum\limits_{j = 1}^n | } {w_{ij}}|}} $

(16)

其中, m为输入层节点个数, n为隐藏层节点个数。在Zat-NN模型中, m为11, n为32。通过计算得到全部特征的权重向量为W=(0.213, 0.060, 0.122, 0.039, 0.070, 0.062, 0.040, 0.052, 0.105, 0.162, 0.074)。各特征的权重分布如图 7所示, 可以看出, 本文新添加的微博情感特征、日均转发微博数、发博工具这3个特征均具有较大权重, 进一步验证了新添加特征对微博僵尸粉检测的重要性。

据统计, 本文所用的数据集中有589个为高级僵尸粉, 占全部僵尸粉数量的29.5%。这些高级僵尸粉均填写了个人资料及个人描述, 发博数较多且有转发其他用户微博的行为。随着高级僵尸粉所占比例的提升, 僵尸粉检测将会面临更多挑战, 因为微博上有一些不活跃用户, 他们发博数很少或者发博内容不带有明显个人情绪, 微博点赞评论数也很少, 识别模型有时会将这类正常用户错误分类为僵尸用户, 因此如何准确将这类用户和僵尸粉进行有效区分也是一个难点问题。

7 结束语

微博僵尸粉是微博垃圾用户的主要组成部分。由于僵尸粉的账号大多数由程序生成并控制, 其账号安全性能低, 容易被攻击者盗用来发送恶意链接、窃取用户的个人隐私, 会给个人信息安全和社会公共安全造成严重威胁, 因此有效分辨并清除僵尸粉对于提高新浪微博及其他社交网络的用户体验至关重要。本文从用户属性、用户行为、微博内容3个方面出发定义11个用户特征, 并且结合自然语言处理方法对微博文本做情感分析, 通过添加微博情感等3个新特征增强了模型鲁棒性。实验结果表明, 该方法的识别准确率较高, 为微博僵尸粉识别提供了一个可行有效的解决方案。下一步将对神经网络识别模型进行多任务学习以捕获更多的僵尸粉用户特征, 从而更有效地区分僵尸粉和不活跃用户。