欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Java实现读取文章中重复出现的中文字符串

程序员文章站 2024-03-04 21:01:36
在上个星期阿里巴巴一面的时候,最后面试官问我如何把一篇文章中重复出现的词或者句子找出来,当时太紧张,答的不是很好。今天有时间再来亲手实现一遍。其实说白了也就是字符串的处理,...

在上个星期阿里巴巴一面的时候,最后面试官问我如何把一篇文章中重复出现的词或者句子找出来,当时太紧张,答的不是很好。今天有时间再来亲手实现一遍。其实说白了也就是字符串的处理,所以难度并不是很大。

以下是代码和运行效果:

实现方法:

import java.io.*;
import java.util.*;
/**
 * created by chunmiao on 17-3-20.
 */
public class readarticle {
 //读取文件名称
 private string filename;
 //读取段落
 private arraylist<string> result = new arraylist<>();
 //最小字长(两个字以上进行匹配)
 private final int minsize = 2;
 //重复词储存
 hashset<string> set;
 public readarticle(string filename, hashset<string> set) {
 this.filename = filename;
 this.set = set;
 }
 public void createdata() throws ioexception {
 string r;
 //读取文章内容
 bufferedreader in = new bufferedreader(new filereader(new file(filename).getabsolutefile()));
 try {
  while ((r = in.readline()) != null) {
  //消除不必要的标点符号
  r = r.replaceall("\\s+ |“|\\[|‘|《| *|", "").trim();
  //留下” , 。 。” ”。 ”, ? 》 -等作为划分句子的分割符标示
  collections.addall(result, r.split(",|(。”|”(。|,)|。)|(\\])|”|'|?|:|》|-"));
  }
 }finally {
  in.close();
 }
 //对文章内容进行遍历找出重读出现的句子或者是词语
 for (int i = 0 ; i < result.size() - 1; i ++){
  for (int j = 0 ; j < result.size() - i - 1; j ++) {
  //将重复出现的词语保存到set集合里面
  set.addall(getsamecharacter(result.get(i), result.get(j + i + 1)));
  }
 }
 }
 private arraylist<string> getsamecharacter(string a1, string a2){
 string maxs;
 string mins;
 //短句遍历开始处
 int start = 0;
 //词的长度最短为两个字长
 int range =2;
 //设定短句和长句s,使得遍历更加快捷
 if (a1.length() <= a2.length()){
  maxs = a2;
  mins = a1;
 }else {
  maxs = a1;
  mins = a2;
 }
 string result = "";
 arraylist<string> list = new arraylist<string>();
 //防止substring时超出范围
 while (start + range <= mins.length()) {
  //如果句子或词在对象里面,则找出相应的句子或词保存在list里面
  if (maxs.indexof(mins.substring(start, start + range)) != -1) {
  //获取最长句子,删除短句子
  list.remove(result);
  list.add(mins.substring(start, start + range));
  result = mins.substring(start, start + range);
  range++;
  continue;
  }
  range = minsize;
  start++;
 }
 return list;
 }
}

测试代码:

import java.io.ioexception;
import java.util.hashset;
public class main {
 public static void main(string[] args) throws ioexception {
 string filename = "test.txt";
 hashset<string> result = new hashset<string>();
 readarticle read = new readarticle(filename,result);
 read.createdata();
 system.out.println("这篇文章中的重复出现的词或句子有以下几个词或句子:\n");
 for (string s : result){
  system.out.println(s);
 }
 }
}

读取的文章内容:

Java实现读取文章中重复出现的中文字符串

正则匹配结果(去掉多余字符):

Java实现读取文章中重复出现的中文字符串

字符串转换成arraylist:

Java实现读取文章中重复出现的中文字符串

最终处理结果:

Java实现读取文章中重复出现的中文字符串

其实从上面的结果可以看出。单纯的操控字符串并不能判断它是否是一个完整的词和句,应该还要配合数据库字典来匹配上面的结果,从而找出真正的词和句

以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,同时也希望多多支持!