Elasticsearch7.9.2中文分词器-IK分词器使用

elasticsearch安装及使用可参考博文:Elasticsearch7.9.2+Kibana7.9.2安装使用
elasticsearch默认提供了standard分词器,但对中文的分词效果不尽人意:


可以看出,把词语分成了一个个的汉字,这并不是我们想要的,接下来介绍下中文分词器-IK分词器的安装及使用。

1、IK分词器下载及安装

github: https://github.com/medcl/elasticsearch-analysis-ik

各版本分词器下载: https://github.com/medcl/elasticsearch-analysis-ik/releases

选择版本与elasticsearch一致的版本:7.9.2

下载后解压,将解压后的文件夹elasticsearch-analysis-ik-7.9.2 拷贝至 elasticsearch的plugins文件下:

然后重启elasticsearch,控制台有如下输出:

2、使用IK分词器测试分词

IK分词器有两种分词模式:ik_smart 和 ik_max_word 模式。

2.1、ik_smart

会做最粗粒度的拆分,比如会将“中华人民共和国”拆分为中华人民共和国。

使用Kibana开发工具,输入如下请求:

1
2
3
4
5
POST _analyze
{
"analyzer": "ik_smart",
"text":"中华人民共和国"
}

2.2、ik_max_word

会将文本做最细粒度的拆分,比如会将“中华人民共和国人民大会堂”拆分为“中华人民共和国、中华人民、中华、华人、人民共和国、人民、共和国等词语。

请求如下:

1
2
3
4
5
POST _analyze
{
"analyzer": "ik_max_word",
"text":"中华人民共和国"
}

3、扩展词典

在 elasticsearch-analysis-ik-7.9.2 文件夹 conf 目录下,找到 IKAnalyzer.cfg.xml 配置文件,

文件内容如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 -->
<entry key="ext_dict">custom.dic</entry>
<!--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords"></entry>
<!--用户可以在这里配置远程扩展字典 -->
<!-- <entry key="remote_ext_dict">words_location</entry> -->
<!--用户可以在这里配置远程扩展停止词字典-->
<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>

其中custom.dic为自定义的扩展字典,7.9.2版本的分词器插件中没有该文件,需要自己新建,
内容可以根据自己需要,自定义分词的文字。
保存后重启elasticsearch即可看到自己想要的分词效果。


Elasticsearch7.9.2中文分词器-IK分词器使用
https://river106.cn/posts/6817484d.html
作者
river106
发布于
2020年10月11日
许可协议