作者投稿和查稿 主编审稿 专家审稿 编委审稿 远程编辑

计算机工程 ›› 2006, Vol. 32 ›› Issue (10): 4-5,8.

• 博士论文 • 上一篇    下一篇

基于向量空间模型的过滤不良文本方法

李 强,李建华   

  1. 上海交通大学信息安全工程学院,上海 200030
  • 出版日期:2006-05-20 发布日期:2006-05-20

Method of Filting Reactionary Text Based on Vector Space Model

LI Qiang, LI Jianhua   

  1. College of Information Security Engineering, Shanghai Jiaotong University, Shanghai 200030
  • Online:2006-05-20 Published:2006-05-20

摘要: 就向量空间模型文本表示方法以及归一化技术对不良文本过滤性能的影响进行了研究,并基于平衡样本集和不平衡样本集分别进行了试验。试验和结果分析表明,Na?ve Bayes 方法由于采用概率模型进行文本表示,在不平衡样本集上显示了较差的准确度,而基于向量空间模型进行文本表示的方法,如中心向量法(VSM)、支持向量机(SVM)等在平衡或非平衡样本上取得了较好的准确度,并用于过滤不良文本的文本内容安全监管中。

关键词: 文本表示;文本归一化;向量空间模型;支持向量机;Naive Bayes 模型

Abstract: This paper researches the vector space model for expressing text, and two datasets are used to evaluate the text expressing method, one is a balance data set, the other is a non-balance data set, which is used for filtering some specific text. It gets good precision using VSM and SVM on both data sets, however the result is poor using Naive Bayes model on the non-balance data set, especially to filter unseen reactionary Web text. The paper concludes that term weighting and normalization are very important technique to improve the precision

Key words: Text expressing; Text normalization; Vector space model; Support vector machine; Naive Bayes model