初识jieba分词
程序员文章站
2024-02-22 11:22:10
...
jieba是目前最好的中文分词组件,他有以下三个特性:
1.它支持三种分词模式:精确模式,全模式,搜索引擎模式
精确模式
import jieba
seg_list = jieba.cut("他来到四川大学", cut_all=True)
print("全模式:" + " ".join(seg_list))
精确模式
import jieba
seg_list = jieba.cut("他来到四川大学", cut_all=False)
print("精确模式:" + " ".join(seg_list))
精确模式
import jieba
seg_list = jieba.cut_for_search("他来到四川大学")
print("搜索引擎模式:" + " ".join(seg_list))
2.支持自定义词典
开发者可以指定自定义词典,以便包含 jieba 词库里没有的词,词典格式如下:
词语 词频(可省略) 词性(可省略)
例如将下面文本保存为mydic.txt
创新办 3 i
云计算 5
凱特琳 nz
使用 jieba.load_userdict(file_name) 即可载入词典。