欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

初识jieba分词

程序员文章站 2024-02-22 11:22:10
...

jieba是目前最好的中文分词组件,他有以下三个特性:

1.它支持三种分词模式:精确模式,全模式,搜索引擎模式

精确模式

import jieba
seg_list = jieba.cut("他来到四川大学", cut_all=True)
print("全模式:" + " ".join(seg_list))

精确模式

import jieba
seg_list = jieba.cut("他来到四川大学", cut_all=False)
print("精确模式:" + " ".join(seg_list))

精确模式

import jieba
seg_list = jieba.cut_for_search("他来到四川大学")
print("搜索引擎模式:" + " ".join(seg_list))

2.支持自定义词典

开发者可以指定自定义词典,以便包含 jieba 词库里没有的词,词典格式如下:
词语 词频(可省略) 词性(可省略)
 例如将下面文本保存为mydic.txt

创新办 3 i
云计算 5
凱特琳 nz

使用 jieba.load_userdict(file_name) 即可载入词典。

3.支持繁体分词

相关标签: jieba 中文分词