python 文本单词提取和词频统计的实例
程序员文章站
2023-01-30 13:38:49
这些对文本的操作经常用到, 那我就总结一下。 陆续补充。。。
操作:
strip_html(cls, text) 去除html标签
separate_words(cl...
这些对文本的操作经常用到, 那我就总结一下。 陆续补充。。。
操作:
strip_html(cls, text) 去除html标签
separate_words(cls, text, min_lenth=3) 文本提取
get_words_frequency(cls, words_list) 获取词频
源码:
class docprocess(object): @classmethod def strip_html(cls, text): """ delete html tags in text. text is string """ new_text = " " is_html = false for character in text: if character == "<": is_html = true elif character == ">": is_html = false new_text += " " elif is_html is false: new_text += character return new_text @classmethod def separate_words(cls, text, min_lenth=3): """ separate text into words in list. """ splitter = re.compile("\\w+") return [s.lower() for s in splitter.split(text) if len(s) > min_lenth] @classmethod def get_words_frequency(cls, words_list): """ get frequency of words in words_list. return a dict. """ num_words = {} for word in words_list: num_words[word] = num_words.get(word, 0) + 1 return num_words
以上这篇python 文本单词提取和词频统计的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
上一篇: 沙和尚请假
下一篇: 110和120的故事之一