Alluxio使用——HBase篇

简介: 1.服务启停 Zookeeper ./zookeeper/bin.zkServer.sh start ./zookeeper/conf/zoo.cfg ./zookeeper/bin.zkServer.

1.服务启停

Zookeeper

./zookeeper/bin.zkServer.sh start ./zookeeper/conf/zoo.cfg

./zookeeper/bin.zkServer.sh stop

Hadoop

./hadoop/sbin/start-dfs.sh

./hadoop/sbin/stop-dfs.sh

HBase

./hbase/bin/start-hbase.sh

./hbase/bin/stop-hbase.sh
./hbase/bin/hbase-daemon.sh start master

./hbase/bin/hbase-daemon.sh start regionserver 1

./hbase/bin/hbase-daemon.sh stop master

./hbase/bin/hbase-daemon.sh stop regionserver 1

Alluxio

./alluxio/bin/alluxio local SudoMount

2.HBase配置

Apache HBase可以通过Hadoop文件系统来使用Alluxio

修改配置vi hbase-site.xml

<!-- 修改hbase.rootdir属性,可通过alluxio访问 -->
<property>
  <name>hbase.rootdir</name>
  <value>alluxio://master_hostname:19998/hbase</value>
</property>

<!-- 防止HBase以线程不安全的方式刷新Alluxio文件流 -->
<property>
  <name>hbase.regionserver.hlog.syncer.count</name>
  <value>1</value>
</property>

将alluxio的客户端jar复制到hbase的lib中

cp ./alluxio/client/alluxio-2.0.0.client.jar ./hbase/lib

验证

验证HBase

HBase Master URL: http://hbase_master_hostname:16010

验证Alluxio

Alluxio Master URL: http://alluxio_master_hostname:19999

3.测试

测试数据

创建HBase表,并模拟插入10000行数据;然后查询展示10行

编辑: vi alluxio_hbase_test.txt

create 'alluxio_hbase_test', 'cf1'
for i in Array(0..9999)
 put 'alluxio_hbase_test', 'rowid_'+i.to_s , 'cf1:value', 'value_'+i.to_s
end
list 'alluxio_hbase_test'
scan 'alluxio_hbase_test', {LIMIT => 10, STARTROW => 'row1'}
get 'alluxio_hbase_test', 'row1'

执行命令

./hbase/bin/hbase shell alluxio_hbase_test.txt

测试结果

使用Hadoop统计行数

./hbase/bin/hbase org.apache.hadoop.hbase.mapreduce.RowCounter alluxio_hbase_test.txt

目录
相关文章
|
SQL 分布式计算 数据管理
12款开源数据资产(元数据)管理平台选型分析(一)
12款开源数据资产(元数据)管理平台选型分析(一)
5919 2
|
5月前
|
存储 自然语言处理 机器人
OpenClaw 搭团队太折腾?这个 Skill一键搞定多智能体协作
OpenClaw是优雅的多智能体基座,各Agent独立运行、消息驱动。在此基础上,针对协作失序、配置复杂、过程黑盒等痛点,agentrun-team Skill提供一键组队能力:自动完成身份配置、注入协作规范、构建团队意识与闭环流程,10分钟即可交付可协同、可审计、高透明的智能体团队。
|
9月前
|
人工智能 弹性计算 运维
EMR AI助手开启公测:用AI重塑大数据运维,更简单、更智能
EMR AI 助手开启公测,通过合理利用 EMR AI 助手的各项功能,可以快速查询资源信息、唤起相关操作、诊断组件异常、获取技术支持等,能帮您提升运维效率和操作体验。
|
存储 数据可视化 数据处理
optisystem输出到matlab的数据结构
optisystem输出到matlab的数据结构
|
人工智能 Ubuntu Linux
我的工具库-2025
从2008年编写第一行代码起,我经历了多阶段的知识管理探索。初期使用草稿本和待办事项,后转为离线笔记软件、个人博客与印象笔记,最终在2023年选定Obsidian作为核心工具,结合卡片式笔记法和双链笔记,实现高效的知识收集、加工与分享。我的日常工具涵盖开发环境(如JetBrains系列)、操作系统(Ubuntu)、NAS系统(TrueNAS Scale)及各类辅助应用,形成了一个高度定制化的“外部大脑”。这一套工具不仅支持了我的工作和学习,也让我深刻体会到AI时代的便利与无限可能。
我的工具库-2025
|
人工智能 Java 程序员
通义灵码 2.0 | AI程序员 荣耀登场
通义灵码2.0引入了AI程序员,具备多文件代码修改和使用工具的能力,可帮助开发者完成需求实现、问题解决、单元测试用例生成等任务。相比1.0版本,2.0在代码生成速度、准确度及自然语言理解方面有显著提升,支持更多上下文类型如#file、#codeChanges等,便于灵活提问与代码审查。本文通过实际操作展示了AI程序员在功能开发、跨语言编程等方面的应用,体验良好;但在单元测试环节遇到环境检查问题未能解决,希望后续能提供更详细的修复文档。总体而言,AI程序员大幅提升了开发效率,尤其在新功能迭代和错误排查方面表现出色,但生成的代码风格有时需人工调整以适应现有项目结构。
|
监控 数据可视化 搜索推荐
现代教育管理中的看板应用:任务可视化的强大力量
化解教学压力,赋予课堂活力,试试看板工具
525 7
现代教育管理中的看板应用:任务可视化的强大力量
|
测试技术 持续交付 开发者
《提升鸿蒙Next应用审核与上架效率之道》
为了确保应用顺利通过华为应用市场的审核并成功上架,开发者应提前熟悉审核标准和流程,优化应用质量,完善资料提交,并加强与审核团队的沟通。具体措施包括:仔细研读审核指南,确保功能完整性和稳定性,提升性能指标,规范权限申请,准确填写应用信息,准备高质量截图和视频,制定明确隐私政策,利用技术工具进行自查和自动化测试,积极参与社区交流和培训活动。
451 8
|
机器学习/深度学习 人工智能 自然语言处理
思通数科AI平台在尽职调查中的技术解析与应用
思通数科AI多模态能力平台结合OCR、NLP和深度学习技术,为IPO尽职调查、融资等重要交易环节提供智能化解决方案。平台自动识别、提取并分类海量文档,实现高效数据核验与合规性检查,显著提升审查速度和精准度,同时保障敏感信息管理和数据安全。
906 11

热门文章

最新文章