IK分词器
程序员文章站
2024-02-21 22:46:58
...
简介:IK分词器是常见的一种中文分词器,可以智能分析中文词汇,可以做到 扩展词汇,停用(语气词,助词类似这种无关紧要的词语可
以在停用词典中禁止分词)
使用ik分词器
1依赖,maven*库没有dependency;手动添加依赖,利用maven将依赖添加到本地库,也可以在测试时将jar包放到工程中
手动添加–build-path jar包,课前资料–lucene–IK分词器–jar 包
24.0版本之后的IK分词器为了实现解耦和自定义流的属性等 问题,需要自行完成analyzer,tokenizer等代码;
可以使用已经编写好的Ikanalyzer 课前资料–lucene–IK实现类
3测试使用
IK分词器的扩展词典和停用词典设置
需要配置文件制定扩展词典和停用词典
IKAnalyzer.cfg.xml
<properties>
<comment>IK Analyzer 扩展配置</comment>
< !--用户可以在这里配置自己的扩展字典
<entry key="ext_dict">ext.dic;</entry>
-->
< !--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords"> stopword.dic;</entry>
</properties>
ext.dic扩展词典和stopwords.dic停用词典,必须在同一个文 件夹下,当前工程的加载文件默认相对路径(maven工程中,添加到target/classes)
注意:如果想要配置文件的扩展词典和停用词典生效
1扩展词典停用词典的编码格式要和字符串的编码格式 一致
2一定要被工程加载(被加载成功的话会答应ik标识)