【深入浅出】阿里自研开源搜索引擎Havenask集群扩分片

简介: 本次分享内容为Havenask的集群扩分片,共2个部分组成( 集群扩分片简介、 集群扩分片实践),希望可以帮助大家更好了解和使用Havenask。

一、集群扩分片简介

流程与修改schema基本一致,用户通过hape修改分片数,进而修改了catalog中的信息触发全量build,新版本全量切换后,新的分片数生效。

image.png


二、集群扩分片实践

1、过程概述

集群扩分片操作的命令与变更表结构一致,相关命令可查看havenask官网。在havenask官网中找到hape命令https://havenask.net/#/doc/v0-2-2/sql/petool/command),然后找到update命令,更新全量表。命令中的参数可更新全量表的partition数量(分片数)。首先创建一个分布式的havenask集群,再创建一张全量表,查询这张全量表,然后对该全量表进行扩分片操作,使用的命令与变更schema的命令相同,等待扩分片操作完成之后,再查询集群。


2、扩分片实践

接下来我们在havenask分布式集群上进行一次扩分片操作。

hape命令变更表结构(https://havenask.net/0/doc/sql/petool/command


准备集群:

  • hape start havenask -c /ha3_install/hape_conf/remote
  • hape create table -t in1 -p 1 -s /ha3_install/example/cases/normal/in0_schema.json  -f hdfs://xxx/test.data -c /ha3_install/hape_conf/remote
  • hape gs bs -c /ha3_install/hape_conf/remote
  • hape gs havenask -c /ha3_install/hape_conf/remote


查询:

  • /ha3_install/sql_query.py --address  http://<qrs-ip>:45800 --query "select * from in1"


扩分片:

  • hape update table-schema -t in1 -p 2 -s /ha3_install/example/cases/normal/in0_schema.json -f hdfs://xxx/test.data -c /ha3_install/hape_conf/remote
  • hape gs bs -c /ha3_install/hape_conf/remote
  • hape gs havenask -c /ha3_install/hape_conf/remote


查询:

  • /ha3_install/sql_query.py --address http://:45800 --query "select * from in1"

3、具体步骤

  • 首先,启动havenask分布式集群;然后,创建一张分片数为1的全量表,触发全量表创建已经完成,在全量表构建期间,可以用gs命令查看,build info表示全量表正在构建中,当有了currentbuild info信息,表明全量表已经构建完成,集群也处于了ready状态;


  • 接下来,查询正常后,进行扩分片操作,把分片数改为2,执行命令后会触发全量buildbuild完成且索引切换上线后,查看全量build的状态,当创建完成后,build info当中会有两个分片的信息;


  • 最后,再次查询集群的状态,显示集群状态为ready,两个分片状态也为ready,扩分片后的集群也已完成。

 

三、结尾

具体Havenask集群扩分片的演示视频可以通过链接查看,欢迎各位开发者使用。

视频链接:https://developer.aliyun.com/live/253698?spm=a2c6h.13262185.profile.7.563bee42LdD7By


关注我们:

Havenask 开源官网:https://havenask.net/

Havenask-Github 开源项目地址:https://github.com/alibaba/havenask

阿里云 OpenSearch 官网:https://www.aliyun.com/product/opensearch

钉钉扫码加入 Havenask 开源官方技术交流群:

1715594790746.png

 

目录
相关文章
|
SQL 运维 搜索推荐
《揭秘,阿里开源自研搜索引擎Havenask的在线检索服务》
Havenask是阿里巴巴智能引擎事业部自研的开源高性能搜索引擎,深度支持了包括淘宝、天猫、菜鸟、高德、饿了么在内几乎整个阿里的搜索业务。本文针对性介绍了Havenask的在线检索服务,它具备高可用、高时效、低成本的优势,帮助企业和开发者量身定做适合业务发展的智能搜索服务。
85017 138
|
存储 消息中间件 搜索推荐
【前沿技术】 阿里开源搜索引擎Havenask的消息系统
Havenask是阿里巴巴智能引擎事业部自研的开源高性能搜索引擎,深度支持了包括淘宝、天猫、菜鸟、高德、饿了么在内几乎整个阿里的搜索业务。本文针对性介绍了Havenask的消息系统--Swift,它是一个设计用于处理大规模的数据流和实时消息传递的高性能、可靠的消息系统。
61276 3
|
SQL 搜索推荐 测试技术
【Havenask实践篇】完整的性能测试
Havenask是阿里巴巴智能引擎事业部自研的开源高性能搜索引擎,深度支持了包括淘宝、天猫、菜鸟、高德、饿了么在内几乎整个阿里的搜索业务。性能测试的目的在于评估搜索引擎在各种负载和条件下的响应速度、稳定性。通过模拟不同的用户行为和查询模式,我们可以揭示潜在的瓶颈、优化索引策略、调整系统配置,并确保Havenask在用户数量激增或数据量剧增时仍能保持稳定运行。本文举例对Havenask进行召回性能测试的一个简单场景,在搭建好Havenask服务并写入数据后,使用wrk对Havenask进行压测,查看QPS和查询耗时等性能指标。
66342 6
|
人工智能 搜索推荐 异构计算
|
机器学习/深度学习 算法 流计算
深度预测平台RTP介绍
前言 RTP平台是阿里内部一个通用的在线预测平台,不仅支持淘系搜索、推荐、聚划算、淘金币等业务,也支持国际化相关icbu、lazada等搜索推荐业务,同时还支持着淘客,优酷、飞猪等大文娱的搜索推荐场景。
10337 0
|
存储 自然语言处理 搜索推荐
【技术解析 | 实践】Havenask分析器
本次分享内容为Havenask的分析器,本次课程主要分为3部分内容(分析器介绍、解释分析器主要配置、实战演示),希望本次通过分享帮助大家更好了解和使用Havenask。
52429 3
【技术解析 | 实践】Havenask分析器
|
搜索推荐 大数据 数据库
【Havenask实践篇】搭建文本检索服务
Havenask是阿里巴巴智能引擎事业部自研的开源高性能搜索引擎,深度支持了包括淘宝、天猫、菜鸟、高德、饿了么在内几乎整个阿里的搜索业务。本文举例数据库检索加速的一个简单场景,使用Havenask对数据库的文本字段建立倒排索引,通过倒排检索列提高检索性能,缩短检索耗时。
114660 51
【Havenask实践篇】搭建文本检索服务
|
消息中间件 Docker 索引
【一文解读】阿里自研开源核心搜索引擎 Havenask简介及发展历史
本次分享内容为Havenask的简介及发展历史,由下面五个部分组成(Havenask整体介绍、名词解释、架构、代码结构、编译与部署),希望可以帮助大家更好了解和使用Havenask。
73240 0
【一文解读】阿里自研开源核心搜索引擎 Havenask简介及发展历史
|
运维 监控 搜索推荐
【电商搜索】现代工业级电商搜索技术-Ha3搜索引擎平台简介
【电商搜索】现代工业级电商搜索技术-Ha3搜索引擎平台简介