欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

solr同义词

程序员文章站 2023-12-21 23:33:22
...

当用户输入"马甲"时,能够搜索到文本中包含"马夹"的结果,这就是solr同义词的作用。

text_ik类型字段引入同义词

managed-schema.xml文件中定义text_ik类型,text_ik字段类型使用的是ik分词器,这里不做展开叙述。

<fieldType name="text_ik" class="solr.TextField">  
	<analyzer type="index" useSmart="false" >  
	  <tokenizer class="org.wltea.analyzer.lucene.IKTokenizerFactory"/>  
	  <!--索引时使用同义词过滤器-->
	  <filter class="solr.SynonymGraphFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>  
	</analyzer>  
	<analyzer type="query" useSmart="true" >  
	   <tokenizer class="org.wltea.analyzer.lucene.IKTokenizerFactory"/>  
	   <!--查询时使用同义词过滤器-->
	   <filter class="solr.SynonymGraphFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>   
	</analyzer>  
</fieldType>  

在managed-schema文件的同级目录下,找到synonyms.txt文件(没有就新建),增加同义词。

特别说明,如果是solrcloud模式,managed-schema文件和synonyms.txt文件都在zookeeper上。如果是solr模式,相关文件在solr服务安装目录下。

增加同义词的方式如下 ,每行一个同义词映射,要么用英文逗号分隔,有么用特殊符号=>分隔。如果有多个词(大于2个)互为同义词,全写在一行,用逗号分隔即可。

# The ASF licenses this file to You under the Apache License, Version 2.0
# (the "License"); you may not use this file except in compliance with
# the License.  You may obtain a copy of the License at
#
#     http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.

#-----------------------------------------------------------------------
#some test synonym mappings unlikely to appear in real input text
aaafoo => aaabar
bbbfoo => bbbfoo bbbbar
cccfoo => cccbar cccbaz
fooaaa,baraaa,bazaaa

# Some synonym groups specific to this example
GB,gib,gigabyte,gigabytes
MB,mib,megabyte,megabytes
Television, Televisions, TV, TVs
#notice we use "gib" instead of "GiB" so any WordDelimiterGraphFilter coming
#after us won't split it into two words.

# Synonym mappings can be used for spelling correction too
pixima => pixma

需要特别注意的是,每一组同义词,输入输出效果是等价的。比如在synonyms.txt的第一行输入 马甲,马夹 ,这表示查询马甲等价于查询马夹,查询马夹也等价于查询马甲。但是现实并不是那么友好。

默认的ik分词词库会对马甲 ik分词为 马甲 一个词条,但是对 马夹 却分词为 马 和 夹 两个单独的词条,这直接导致搜索 马夹 等价于搜索 马 OR 夹,同义词发挥不了作用。

一个解决方式就是,将 马夹 定义为 扩展词,加入到ext.dic文件中。扩展词的作用这里也不做额外说明。

其实上文中定义text_ik字段类型时,存在优化的空间,没有必要在索引时使用同义词过滤器,只要查询时设置了同义词过滤器,就可以发挥同义词查询的作用。

上一篇:

下一篇: