使用RestHighLevelClient操作ES

在上次的文章Spring Data Elasticsearch的使用中解释了我在项目中使用ES的原因,但是元旦前公司检查出来使用的ES没有设置用户名和密码,因为当时安装的时候ES是在内网访问的,所以就没有设置用户名和密码,本来设置密码简简单单就完事了,结果项目整合ES就出了问题。这里说下相关的版本问题,项目使用的Spring Boot2.1.13ES版本则是6.8.6。网上看了下相关的资料如果使用用户名和密码访问ES需要使用x-pack-client,但是引入之后项目启动各种报错。后来看了下文档,发现版本有差别,而且自己也尝试了几种方案最后都是失败了,无奈之下只能放弃使用Spring Data Elasticsearch,然后我看到文档说建议使用 High Level REST Client,所以我就换上了RestHighLevelClient,所以今天就改用它来对ES进行操作。

一、 修改项目依赖

如果你的Spring Data Elasticsearch版本是3.2.*或以上是包含了High Level REST Client依赖的。而公司项目使用的Spring Data Elasticsearch3.1.*,所以在公司的项目中我是移除了Spring Data Elasticsearch依赖,单独重新添加了elasticsearchelasticsearch-rest-high-level-client两个依赖。当然本次项目是Spring Data Elasticsearch版本是4.1.1,不过我也是移除了Spring Data Elasticsearch依赖,添加elasticsearchelasticsearch-rest-high-level-client两个依赖,本次项目是在上次项目的基础上进行修改,项目源码见我的github,本次项目pom.xml如下:

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.4.0</version>
        <relativePath/> <!-- lookup parent from repository -->
    </parent>
    <groupId>com.ypc.spring.data</groupId>
    <artifactId>elastic</artifactId>
    <version>1.0-SNAPSHOT</version>
    <name>elastic</name>
    <description>ES project for Spring Boot</description>

    <properties>
        <java.version>1.8</java.version>
        <es.version>7.6.0</es.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-data-elasticsearch</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>cn.hutool</groupId>
            <artifactId>hutool-all</artifactId>
            <version>5.5.2</version>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.elasticsearch</groupId>
            <artifactId>elasticsearch</artifactId>
            <version>${es.version}</version>
        </dependency>
        <dependency>
            <groupId>org.elasticsearch.client</groupId>
            <artifactId>elasticsearch-rest-high-level-client</artifactId>
            <version>${es.version}</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.data</groupId>
            <artifactId>spring-data-commons</artifactId>
        </dependency>
    </dependencies>
    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>

</project>

二、配置RestHighLevelClient

项目的配置文件修改如下

spring.elasticsearch.rest.uris=127.0.0.1:9200
spring.elasticsearch.rest.connection-timeout=6s
spring.elasticsearch.rest.read-timeout=10s
spring.elasticsearch.rest.password=123456
spring.elasticsearch.rest.username=elastic

因为没有了自动配置,因此需要我们自己创建相应的Bean,另外因为 ES设置了用户名和密码,在配置类当中也要进行权限配置,代码如下:

@Configuration
public class ESConfig {

    @Value("${spring.elasticsearch.rest.uris}")
    private List<String> uris;

    @Value("${spring.elasticsearch.rest.password}")
    private String userName;

    @Value("${spring.elasticsearch.rest.username}")
    private String password;

    @Bean
    public RestHighLevelClient restHighLevelClient() {
        HttpHost[] httpHosts = createHosts();
        RestClientBuilder restClientBuilder = RestClient.builder(httpHosts)
                .setHttpClientConfigCallback(new RestClientBuilder.HttpClientConfigCallback() {
                    @Override
                    public HttpAsyncClientBuilder customizeHttpClient(HttpAsyncClientBuilder httpClientBuilder) {
                        CredentialsProvider credentialsProvider = new BasicCredentialsProvider();
                        credentialsProvider.setCredentials(AuthScope.ANY,new UsernamePasswordCredentials(userName,password));
                        return httpClientBuilder.setDefaultCredentialsProvider(credentialsProvider);
                    }
                });
        RestHighLevelClient restHighLevelClient = new RestHighLevelClient(restClientBuilder);
        return restHighLevelClient;
    }

    private HttpHost[] createHosts() {
        HttpHost[] httpHosts = new HttpHost[uris.size()];
        for (int i = 0; i < uris.size(); i++) {
            String hostStr = uris.get(i);
            String[] host = hostStr.split(":");
            httpHosts[i] = new HttpHost(StrUtil.trim(host[0]),Integer.valueOf(StrUtil.trim(host[1])));
        }
        return httpHosts;
    }
}

三、RestHighLevelClient使用

RestHighLevelClient的使用无非就是对ES进行一些操作,增删改查等等。另外因为我们没有使用了Spring Data Elasticsearch所以没法通过注解的方式来创建indexsettingmapping。这些都需要我们自己去创建。所以需要创建一个Runner在项目启动之后校验index是否存在,不存在则创建index和它的settingmapping,代码如下:

@Slf4j
@Component
public class ElasticsearchRunner implements ApplicationRunner {

    @Autowired
    private RestHighLevelClient restHighLevelClient;
    private static final String USER_INDEX_NAME = "user_entity";
    private static final String DATE_FORMAT = "yyyy-MM-dd HH:mm:ss";

    @Override
    public void run(ApplicationArguments args) throws Exception {
        GetIndexRequest getIndexRequest = new GetIndexRequest(USER_INDEX_NAME);
        Boolean exist = restHighLevelClient.indices().exists(getIndexRequest, RequestOptions.DEFAULT);
        // 不存在则创建index和setting mapping
        if (!exist) {
            CreateIndexRequest createIndexRequest = new CreateIndexRequest(USER_INDEX_NAME);
            Settings settings = Settings.builder()
                    .put("index.number_of_shards",1)
                    .put("index.number_of_replicas",1)
                    .build();
            Map<String,Object> propertyMap = createIndexMapping();
            createIndexRequest.settings(settings).mapping(propertyMap);

            CreateIndexResponse createIndexResponse = restHighLevelClient.indices().create(createIndexRequest,RequestOptions.DEFAULT);
            if (!createIndexResponse.isAcknowledged()) {
                log.error(">>>> 创建索引和映射关系失败! <<<<");
                throw new RuntimeException("创建索引和映射关系失败");
            }
        }
    }

    private Map<String,Object> createIndexMapping() {
        Map<String,Object> resultMap = new HashMap<>();
        Map<String,Object> fieldsMap = new HashMap<>();
        UserEntity userEntity = new UserEntity();
        Map<String,Object> beanMap = BeanUtil.beanToMap(userEntity,false,false);
        for (Map.Entry<String,Object> entry : beanMap.entrySet()) {
            String key = entry.getKey();
            Map<String,Object> map = new HashMap<>();
            if ("id".equals(key)) {
                Map<String,Object> map2 = new HashMap<>();
                map2.put("type","keyword");
                map2.put("ignore_above",256);
                Map<String,Object> map1 = new HashMap<>();
                map1.put("keyword",map2);
                map.put("type","text");
                map.put("fields",map1);
            } else if ("orderEntityList".equals(key)) {
                map = createNested();
            } else {
                map.put("type","keyword");
                map.put("store",true);
            }
            fieldsMap.put(key,map);
        }
        resultMap.put("properties",fieldsMap);
        return resultMap;
    }

    private Map<String, Object> createNested() {
        Map<String,Object> resultMap = new HashMap<>();
        resultMap.put("type","nested");
        Map<String,Object> nestedMap = generateMap();
        resultMap.put("properties",nestedMap);
        return resultMap;
    }

    private Map<String, Object> generateMap() {
        OrderEntity orderEntity = new OrderEntity();
        Map<String,Object> map = BeanUtil.beanToMap(orderEntity,false,false);
        Map<String,Object> resultMap = new HashMap<>();
        for (Map.Entry<String,Object> entry: map.entrySet()) {
            String key = entry.getKey();
            Map<String,Object> field = new HashMap<>();
            if ("updateTime".equals(key) || "createTime".equals(key)) {
                field.put("type","date");
                field.put("store",true);
                field.put("format",DATE_FORMAT);
            } else {
                field.put("type","keyword");
                field.put("store",true);
            }
            resultMap.put(key,field);
        }
        return resultMap;
    }
}

上面的代码其实比较麻烦的就是创建索引的mapping,当然创建的方式有多种,我这里使用了Map,其实最终都是json的形式。如果字段多确实比较繁琐,这时候还是觉得Spring Data Elasticsearch比较方便。
接下来我们就开始使用RestHighLevelClient进行增删改查,为了方便我将基本沿用原来代码,只是会修改了具体实现。

1 、添加

因为嵌套类型的关于时间的属性的类型是Date,而在上面创建mapping的代码中可以看出,我指定了时间格式,因此必须将Date类型转换为指定格式的字符串,这点一定需要注意,不然会报错。
新增代码如下:

    @Override
    public UserEntity save(UserEntity userEntity) {
        String id = IdUtil.simpleUUID();
        userEntity.setId(id);
        List<OrderEntity> orderEntityList = new ArrayList<>();
        for (int i = 0; i < 4; i++) {
            OrderEntity orderEntity = new OrderEntity();
            setProperties(orderEntity,i);
            orderEntity.setUserId(id);
            orderEntityList.add(orderEntity);
        }
        userEntity.setOrderEntityList(orderEntityList);
        Map<String,Object> sourceMap = createSourceMap(userEntity);
        IndexRequest indexRequest = new IndexRequest(USER_INDEX_NAME)
                .opType(DocWriteRequest.OpType.CREATE).id(id).source(sourceMap);
        try {
            IndexResponse indexResponse = restHighLevelClient.index(indexRequest, RequestOptions.DEFAULT);
            if (indexResponse.status().getStatus() != RestStatus.CREATED.getStatus()) {
                log.error(">>>> 新增数据失败,返回结果状态码={},错误信息={} <<<<",indexResponse.status().getStatus());
            }
        } catch (IOException e) {
            log.error(">>>> 新增数据出现异常,异常信息={} <<<<",e.getMessage());
        }
        return userEntity;
    }
    private Map<String, Object> createSourceMap(UserEntity userEntity) {
        Map<String,Object> resultMap =  BeanUtil.beanToMap(userEntity,false,true);
        List<Map<String,Object>> nestedMap = createNestedMap(userEntity.getOrderEntityList());
        resultMap.put("orderEntityList",nestedMap);
        return resultMap;
    }
    private List<Map<String, Object>> createNestedMap(List<OrderEntity> orderEntityList) {
        List<Map<String,Object>> list = new ArrayList<>(orderEntityList.size());
        String format = "yyyy-MM-dd HH:mm:ss";
        for (OrderEntity orderEntity : orderEntityList) {
            Map<String,Object> beanMap = BeanUtil.beanToMap(orderEntity,false,true);
            Date createTime = (Date) beanMap.get("createTime");
            if (Objects.nonNull(createTime)) {
                beanMap.put("createTime",DateUtil.format(createTime,format));
            }
            Date updateTime = (Date) beanMap.get("updateTime");
            if (Objects.nonNull(updateTime)) {
                beanMap.put("updateTime",DateUtil.format(updateTime,format));
            }
            list.add(beanMap);
        }
        return list;
    }

这里还需要注意点,IndexRequestopType不管有没有赋值,最终indexResponse返回的状态码都是201,开始我是以200判断,但是后来查了一下发现有ES数据。

2 、删除

这里根据id删除也是比较简单的,代码如下:

    @Override
    public void deleteById(String id) {
        DeleteRequest deleteRequest = new DeleteRequest(USER_INDEX_NAME).id(id);
        try {
            DeleteResponse deleteResponse = restHighLevelClient.delete(deleteRequest,RequestOptions.DEFAULT);
            if (deleteResponse.status().getStatus() != RestStatus.OK.getStatus()) {
                log.error(">>>> 删除id={}数据失败,返回状态码={} <<<<",id,deleteResponse.status().getStatus());
            }
        } catch (IOException e) {
            log.error(">>>> 删除数据发生异常,id={},异常信息={} <<<<",id,e.getMessage());
        }
    }

这里比较简单就不再细述了。

3 、修改

修改其实也比较简单,通过下面的代码看下:

    @Override
    public UserEntity update(UserEntity userEntity) {
        String id = userEntity.getId();
        Map<String,Object> sourceMap = BeanUtil.beanToMap(userEntity,false,true);
        if (CollUtil.isNotEmpty(userEntity.getOrderEntityList())) {
            sourceMap.put("orderEntityList",createNestedMap(userEntity.getOrderEntityList()));
        }
        try {
            UpdateRequest updateRequest = new UpdateRequest(USER_INDEX_NAME,id).doc(sourceMap);
            UpdateResponse updateResponse = restHighLevelClient.update(updateRequest,RequestOptions.DEFAULT);
            if (updateResponse.status().getStatus() != RestStatus.OK.getStatus()) {
                log.error(">>>> 修改id={}数据失败,返回状态码={} <<<<",id,updateResponse.status().getStatus());
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
        return queryById(userEntity.getId());
    }

4 、查询

查询的话根据id查询和条件查询(分页),条件查询的用法和使用TransportClient基本没什么区别,通过下面的代码看一下:

### 根据id
    @Override
    public UserEntity queryById(String id) {
        GetRequest getRequest = new GetRequest(USER_INDEX_NAME).id(id);
        UserEntity userEntity = null;
        try {
            GetResponse getResponse = restHighLevelClient.get(getRequest,RequestOptions.DEFAULT);
            Map<String,Object> map = getResponse.getSource();
            userEntity = BeanUtil.mapToBean(map,UserEntity.class,false,CopyOptions.create());
        } catch (IOException e) {
            e.printStackTrace();
        }
        return userEntity;
    }

### 分页条件查询
    @Override
    public Page<UserEntity> pageQuery(QueryDTO queryDTO) {
        String[] includes = {"userName","id","userCode","userMobile","userGrade","status"};
        // 分页默认从0开始,按照userGrade逆向排序
        PageRequest pageRequest = PageRequest.of(queryDTO.getPageNum() - 1,queryDTO.getPageSize(), Sort.by(Sort.Direction.DESC,"userAge"));
        Page<UserEntity> page = null;
        // 条件查询
        BoolQueryBuilder queryBuilder = QueryBuilders.boolQuery().mustNot(QueryBuilders.matchQuery("status","00"));
        if (StrUtil.isNotBlank(queryDTO.getUserCode())) {
            queryBuilder.must(QueryBuilders.termQuery("userCode",queryDTO.getUserCode()));
        }
        int pageNum = queryDTO.getPageNum() - 1;
        int pageSize = queryDTO.getPageSize();
        SearchSourceBuilder searchSourceBuilder = SearchSourceBuilder.searchSource().fetchSource(includes,null)
                .query(queryBuilder).sort("userGrade", SortOrder.DESC)
                .from(pageNum * pageSize).size(pageSize);
        SearchRequest searchRequest = new SearchRequest(USER_INDEX_NAME).source(searchSourceBuilder);

        try {
            SearchResponse searchResponse = restHighLevelClient.search(searchRequest,RequestOptions.DEFAULT);
            long total = searchResponse.getHits().getTotalHits().value;
            SearchHit[] searchHits = searchResponse.getHits().getHits();
            List<UserEntity> records = convertSource2List(searchHits);
            page = new PageImpl(records,pageRequest,total);
        } catch (IOException e) {
            log.error(">>>> 查询失败,异常信息={} <<<<",e.getMessage());
        }
        return page;
    }
    private List<UserEntity> convertSource2List(SearchHit[] searchHits) {
        if (ArrayUtil.isEmpty(searchHits)) {
            return Collections.EMPTY_LIST;
        }
        List<UserEntity> resultList = new ArrayList<>(searchHits.length);
        for (SearchHit hit : searchHits) {
            String jsonString = hit.getSourceAsString();
            UserEntity userEntity = JSONUtil.toBean(jsonString,UserEntity.class);
            resultList.add(userEntity);
        }
        return resultList;
    }

当然根据id查询也可以使用SearchRequest,但是个人感觉SearchRequest相对更偏底层一些,当然也可能是自己对GetRequest不是很熟悉,因为确实没怎么看这个类有那些功能,后面有时间的话自己再看吧。另外在分页查询中使用的查询某些属性在GetRequest也可以使用的,其实本质都差不多。通过上面的几个方法我们可以看出每种操作基本都对应着一个请求。其实综合来看各种请求还是比较多的,比如我想查询一个indexmapping那就需要创建一个GetMappingsRequest,一个indexsetting同样有GetSettingsRequest。关于这几个方法的测试这里就都省略了。

四、总结

通过上面的学习来看RestHighLevelClient使用起来并不太复杂,如果对ES熟悉的话可以说马上就能上手使用。相对之前使用Spring Data Elasticsearch来讲确实稍微麻烦了一点,尤其是创建索引的mapping,当然我觉得其实不妨自己实现一下相关的功能。另外我的pom.xml引入了Spring Data Commons,自己不妨尝试下能否自动创建索引以及setting、mapping。整体来看使用起来还是比较简单的,当然还是那句话,关键是自己对ES本身的了解。好了,今天的学习就到这里,我的代码已经推送到我的github。另外,希望大家能多多关注我的VX个人号超超学堂,非常感谢大家,如果各位小伙伴有什么疑问也可以和我联系。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 162,050评论 4 370
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 68,538评论 1 306
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 111,673评论 0 254
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,622评论 0 218
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 53,047评论 3 295
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,974评论 1 224
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 32,129评论 2 317
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,893评论 0 209
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,654评论 1 250
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,828评论 2 254
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,297评论 1 265
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,619评论 3 262
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,326评论 3 243
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,176评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,975评论 0 201
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 36,118评论 2 285
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,909评论 2 278

推荐阅读更多精彩内容