asp.NET 脏字过滤算法
程序员文章站
2024-03-08 21:40:40
原文见但在我这里测试的时候,regex要快一倍左右。但是还是不太满意,因为我们网站上脏字过滤用的相当多,对效率已经有了一些影响,经过一番思考后,自己做了一个算法。在自己的机...
原文见
但在我这里测试的时候,regex要快一倍左右。但是还是不太满意,因为我们网站上脏字过滤用的相当多,对效率已经有了一些影响,经过一番思考后,自己做了一个算法。在自己的机器上测试了一下,使用原文中的脏字库,0x19c的字符串长度,1000次循环,文本查找耗时1933.47ms,regex用了1216.719ms,而我的算法只用了244.125ms.
更新:新增一个bitarray,用于判断某char是否在所有脏字中出现过。总时间由244ms降到了34ms.
主要算法如代码所示
private static dictionary dic = new dictionary();
private static bitarray fastcheck = new bitarray(char.maxvalue);
static void prepare()
{
string[] badwords = // read from file
foreach (string word in badwords)
{
if (!dic.containskey(word))
{
dic.add(word, null);
maxlength = math.max(maxlength, word.length);
fastcheck[word[0]] = true;
}
}
}
使用的时候
int index = 0;
while (index < target.length)
{
if (!fastcheck[target[index]])
{
while (index < target.length - 1 && !fastcheck[target[++index]]) ;
}
for (int j = 0; j < math.min(maxlength, target.length - index); j++)
{
string sub = target.substring(index, j);
if (dic.containskey(sub))
{
sb.replace(sub, "***", index, j);
index += j;
break;
}
}
index++;
}
但在我这里测试的时候,regex要快一倍左右。但是还是不太满意,因为我们网站上脏字过滤用的相当多,对效率已经有了一些影响,经过一番思考后,自己做了一个算法。在自己的机器上测试了一下,使用原文中的脏字库,0x19c的字符串长度,1000次循环,文本查找耗时1933.47ms,regex用了1216.719ms,而我的算法只用了244.125ms.
更新:新增一个bitarray,用于判断某char是否在所有脏字中出现过。总时间由244ms降到了34ms.
主要算法如代码所示
复制代码 代码如下:
private static dictionary dic = new dictionary();
private static bitarray fastcheck = new bitarray(char.maxvalue);
static void prepare()
{
string[] badwords = // read from file
foreach (string word in badwords)
{
if (!dic.containskey(word))
{
dic.add(word, null);
maxlength = math.max(maxlength, word.length);
fastcheck[word[0]] = true;
}
}
}
使用的时候
复制代码 代码如下:
int index = 0;
while (index < target.length)
{
if (!fastcheck[target[index]])
{
while (index < target.length - 1 && !fastcheck[target[++index]]) ;
}
for (int j = 0; j < math.min(maxlength, target.length - index); j++)
{
string sub = target.substring(index, j);
if (dic.containskey(sub))
{
sb.replace(sub, "***", index, j);
index += j;
break;
}
}
index++;
}