欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

IK分词器

程序员文章站 2024-02-21 22:46:58
...

简介:IK分词器是常见的一种中文分词器,可以智能分析中文词汇,可以做到 扩展词汇,停用(语气词,助词类似这种无关紧要的词语可
以在停用词典中禁止分词)

使用ik分词器

1依赖,maven*库没有dependency;手动添加依赖,利用maven将依赖添加到本地库,也可以在测试时将jar包放到工程中
手动添加–build-path jar包,课前资料–lucene–IK分词器–jar 包
24.0版本之后的IK分词器为了实现解耦和自定义流的属性等 问题,需要自行完成analyzer,tokenizer等代码;
可以使用已经编写好的Ikanalyzer 课前资料–lucene–IK实现类
3测试使用

IK分词器的扩展词典和停用词典设置

需要配置文件制定扩展词典和停用词典

IKAnalyzer.cfg.xml
<properties>
<comment>IK Analyzer 扩展配置</comment>
< !--用户可以在这里配置自己的扩展字典
<entry key="ext_dict">ext.dic;</entry>
-->
< !--用户可以在这里配置自己的扩展停止词字典-->

<entry key="ext_stopwords"> stopword.dic;</entry>
</properties>

ext.dic扩展词典和stopwords.dic停用词典,必须在同一个文 件夹下,当前工程的加载文件默认相对路径(maven工程中,添加到target/classes)

注意:如果想要配置文件的扩展词典和停用词典生效
1扩展词典停用词典的编码格式要和字符串的编码格式 一致
2一定要被工程加载(被加载成功的话会答应ik标识)

相关标签: IK分词器