Elasticsearch的IK分词器配置说明
程序员文章站
2022-07-09 19:10:22
...
- 1、IK配置文件
ik配置文件地址:
es/plugins/ik/config目录下
IKAnalyzer.cfg.xml:用来配置自定义词库
main.dic:ik原生内置的中文词库,总共有27万多条,只要是这些单词,都会被分在一起
quantifier.dic:放了一些单位相关的词
suffix.dic:放了一些后缀
surname.dic:中国的姓氏
stopword.dic:英文停用词
- 2、ik原生最重要的两个配置文件
main.dic:包含了原生的中文词语,会按照这个里面的词语去分词
stopword.dic:包含了英文的停用词
一般像停用词,会在分词的时候,直接被干掉,不会建立在倒排索引中
- 3、自定义词库
(1)自己建立词库:每年都会涌现一些特殊的流行词,网红,蓝瘦香菇,喊麦,鬼畜,一般不会在ik的原生词典里,需要自己补充自己的最新的词语,到ik的词库里面去。
IKAnalyzer.cfg.xml配置内容如下:
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 -->
<entry key="ext_dict">custom/mydict.dic;custom/single_word_low_freq.dic</entry>
<!--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords">custom/ext_stopword.dic</entry>
<!--用户可以在这里配置远程扩展字典 -->
<!-- <entry key="remote_ext_dict">words_location</entry> -->
<!--用户可以在这里配置远程扩展停止词字典-->
<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
可知,我们只需要补充我们的新词语到custom/mydict.dic或custom/single_word_low_freq.dic这两个字典文件其中之一即可。
一般都指定到custom/mydict.dic这里。
将停用词(如:了,的,呢等,但是这些基本的IK已经给我们都写了,如有补充,写到这里即可)指定到custom/ext_stopword.dic里
上一篇: 三种队列(线性队列、循环队列、动态队列)
下一篇: Python(五)字典 + 集合
推荐阅读
-
hadoop入门之hdfs的重要配置项的说明
-
Apache与Tomcat服务器整合的基本配置方法及概要说明
-
win10 jdk15的下载以及环境变量的详细配置说明
-
在.NET CORE中使用配置文件:对 ConfigurationBuilder 的使用说明
-
很详细的Nginx配置说明
-
docker 部署 Elasticsearch kibana及ik分词器详解
-
基于redis.properties文件的配置及说明介绍
-
使用Docker Compose搭建部署ElasticSearch的配置过程
-
安装ElasticSearch搜索工具并配置Python驱动的方法
-
ElasticSearch 5.5 离线环境的完整安装及配置详情,附kibana、ik插件配置及安装包下载路径