20200320ElasticSearch新增IK扩展词后,让历史数据生效方法

您所在的位置:网站首页 Application的拓展词 20200320ElasticSearch新增IK扩展词后,让历史数据生效方法

20200320ElasticSearch新增IK扩展词后,让历史数据生效方法

2024-07-12 11:34| 来源: 网络整理| 查看: 265

问题描述:

IK远程词典热更新后,使用ES查询命令查询不到更新之后的分词,ES中的历史数据未按照新扩展词典分词。

问题原因:

IK是ES的中文分词插件。在IK新增热词后,不会去更新历史数据,即新添加的热词只对后续的数据生效。而实际上我们常常需要对历史数据进行更新。

解决办法:

    使用ES自己提供的update_by_query接口。如下图所示:

1.调用接口:http://ip:9200/iktest*/_update_by_query?conflicts=proceed(下面演示接口为Kibana6.8.5平台的开发工具来进行接口测试)。

 1.1 可以指定多个索引多个type。

POST /iktest,new_iktest/text1,text2/_update_by_query?conflicts=proceed

1.2 可以使用通配符*,匹配多个索引

返回结果示例:

"took" : 15,//花费时间 "timed_out" : false,//是否超时 "total" : 6, //数据总数 "updated" : 6,//更新总数 "deleted" : 0,//删除总数 "batches" : 1,//scroll响应数量 "version_conflicts" : 0,//版本冲突数量 "noops" : 0, "retries" : { "bulk" : 0, "search" : 0 }, "throttled_millis" : 0, "requests_per_second" : -1.0, "throttled_until_millis" : 0, "failures" : [ ] }

注:默认批处理的大小是1000,参数设置如下:

POST iktest/_update_by_query?scroll_size=100 - 其他支持的参数

refresh, wait_for_completion, wait_for_active_shards, and timeout.

    查询update_by_query:http://IP:9200/_tasks?detailed=true&actions=*byquery     取消upate_by_query任务:http://IP:9200/_tasks/BmK-50kZQCuFwvObmFrLrw:27388/_cancel。

BmK-50kZQCuFwvObmFrLrw:27388 是通过第二点查询出来。

update_by_query原理

开始时获取一个索引的快照,并且使用内部版本来号来进行更新。这意味着如果文档在获得快照后,对索引处理 过程中版本发生更改,将会发生版本冲突。当快照的版本和索引版本一致时则进行更新,并且递增文档版本号。

当遇到冲突而导致整个更新过程失败时,更新过程是不会回滚的。如果不想因为冲突导致整个更新过程终止,可以在url中添加参数conflicts=proceed。或者在请求body中添加”conflicts”:”proceed”

注意点

新增IK热词后,需要等热词生效后才能调用该接口。可以使用分词分析接口来确认。

POST /index1/_analyze?pretty {   "text":"希拉里和韩国",   "tokenizer": "ik_max_word" } 该接口返回有对应分词即表示添加成功

我这里使用建立的测试索引index1来进行_analyze分词接口确认,index1可以不用添加mappings.

 

本文转载自https://blog.csdn.net/a314773862/article/details/78515253,在进行本地测试后根据本地情况进行部分修改,若进行转载请征得原文作者授权。



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3