欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Jsp敏感词过滤的示例代码

程序员文章站 2022-06-20 08:08:42
大部分论坛、网站等,为了方便管理,都进行了关于敏感词的设定。 在多数网站,敏感词一般是指带有敏感政治倾向(或反执政党倾向)、暴力倾向、不健康色彩的词或不文明语,也有一些网...

大部分论坛、网站等,为了方便管理,都进行了关于敏感词的设定。

在多数网站,敏感词一般是指带有敏感政治倾向(或反执政党倾向)、暴力倾向、不健康色彩的词或不文明语,也有一些网站根据自身实际情况,设定一些只适用于本网站的特殊敏感词。

比如,当你发贴的时候带有某些事先设定的词时,这个贴是不能发出的。或者这个词被自动替换为星号(*)或叉号(x)等,或者说是被和谐掉了。

在我看来敏感词过滤最重要的是在写过滤词汇的算法,如何过滤出大批量的敏感词,我感觉dfa的思想不错

dfa简介

在实现文字过滤的算法中,dfa是唯一比较好的实现算法。dfa即deterministic finite automaton,也就是确定有穷自动机,它是是通过event和当前的state得到下一个state,即event+state=nextstate。下图展示了其状态的转换

Jsp敏感词过滤的示例代码

在这幅图中大写字母(s、u、v、q)都是状态,小写字母a、b为动作。通过上图我们可以看到如下关系

a b b
s -----> u s -----> v u -----> v

在实现敏感词过滤的算法中,我们必须要减少运算,而dfa在dfa算法中几乎没有什么计算,有的只是状态的转换。

java实现dfa算法实现敏感词过滤

在java中实现敏感词过滤的关键就是dfa算法的实现。首先我们对上图进行剖析。在这过程中我们认为下面这种结构会更加清晰明了。

Jsp敏感词过滤的示例代码

同时这里没有状态转换,没有动作,有的只是query(查找)。我们可以认为,通过s query u、v,通过u query v、p,通过v query u p。通过这样的转变我们可以将状态的转换转变为使用java集合的查找。

诚然,加入在我们的敏感词库中存在如下几个敏感词:日本人、日本鬼子、毛.泽.东。那么我需要构建成一个什么样的结构呢?

首先:query 日 ---> {本}、query 本 --->{人、鬼子}、query 人 --->{null}、query 鬼 ---> {子}。形如下结构:

Jsp敏感词过滤的示例代码

下面我们在对这图进行扩展:

Jsp敏感词过滤的示例代码

 这样我们就将我们的敏感词库构建成了一个类似与一颗一颗的树,这样我们判断一个词是否为敏感词时就大大减少了检索的匹配范围。比如我们要判断日本人,根据第一个字我们就可以确认需要检索的是那棵树,然后再在这棵树中进行检索。

这个思想留着以后用,我先写一个过滤词汇的一些简单方法,没有涉及到算法

java代码实现

基本思路:重写httpservletrequestwrapper中的getparameter方法,让用户输入的字通过这个过滤,写一个类继承他,重写方法,在写一个过滤词汇的词典,来与输入的对比

先写一个jsp页面,js是用ajax去刷新的,最近学的想用用试试看,感觉不错,ajax是需要引js文件的 

<body>
  <input type="text" name="word" onblur="filter(this.value);" id="filter"/>
  <input type="submit" value="敏感词过滤" />
<script type="text/javascript" src="js/jquery.js"></script>
<script type="text/javascript">
  function filter(num){
    $.ajax({
      type:"post",//提交方式
      url:"filterwordservlet",
      async:true,//是否异步请求
      datatype:"html",//数据的返回类型
      data:{"num":num},//数据传过去的值
      success:function(data,textstatus){//成功的执行之后,回调这个函数处理事务
        $("#filter").val(data);
      },
      error:function(){//失败执行这个函数,处理失败的事务
        alert("error");
      }
    })
  }
</script>
</body>

再继承httpservletrequestwrapper在重写getparameter方法,

//主要思路是继承httpservletrequestwrapper,去改写他的getparameter方法,让其有过滤的业务
public class wordfilter extends httpservletrequestwrapper{

  public wordfilter(httpservletrequest request) {
    super(request);
    // todo auto-generated constructor stub
  }
  @override
  public string getparameter(string name){
    //先得到父亲的方法,传入值,得到的值在跟过滤字典中的比较看是否含有,有则替换,没有放过返回
    string word=super.getparameter(name);
    //调用字典中的文字
    list<string> list=words.getlist();
    for (string string : list) {
      //判断是否含有这样字典中的文字
      if (word.contains(string)) {  
        //将字符串中含有的替换掉
        word=word.replace(string, "**");
      }
    }
    return word;
  }
  
}

再写一个servlet,去获取用户输入的字,进行过滤操作 

@webservlet("/filterwordservlet")
public class filterwordservlet extends httpservlet {
  private static final long serialversionuid = 1l;
  protected void doget(httpservletrequest request, httpservletresponse response) throws servletexception, ioexception {
    //设置请求和编码格式
    request.setcharacterencoding("utf-8");
    response.setcharacterencoding("utf-8");
    //自己创建的请求方法,继承与原来的,改写了getparameter方法让其有过滤的业务
    wordfilter wfilter=new wordfilter(request);
     string string=wfilter.getparameter("num");
     system.out.println("---------------");
     //out的响应方法。输出在页面上,让ajax得到这个去处理一些业务
     printwriter out=response.getwriter();
     out.println(string);
     
  }

  
  protected void dopost(httpservletrequest request, httpservletresponse response) throws servletexception, ioexception {
    // todo auto-generated method stub
    doget(request, response);
  }

}

我自己建了一个list集合的过滤词汇,以后修改可以从这里开始词汇的搜索算法,先建一个词汇类

public class words {
  //过滤词汇的词典
  static list<string> list=new arraylist<>();
  static{
    list.add("你妹的");
    list.add("sb");
    list.add("滚");
  }
  public static list<string> getlist() {
    return list;
  }
  public static void setlist(list<string> list) {
    words.list = list;
  }
  
}

这只是最基础的一种。高级的需要算法的实现,可以思考一下这个dfa算法,我感觉很不错

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。