上次我们跟大家分享了「
少打一局王者荣耀就能上手Spring Cloud?!」,学到就是赚到,翘课的同学抓紧补习了。本期为大家带来全新「
与硅谷大数据工程师吃着火锅唱着歌就把SMACK入门了」篇。
SMACK起源于硅谷,旨在提供更快更强的大数据处理能力。SMACK刚登上技术舞台,便将传统的数据处理能力提升了一个量级,狠狠打了hadoop等技术的老脸,从此有了一个响亮的名字SMACK。(假的)
hadoop:听说你很拽厚 ! now listen, you have free-style ? what’s your name?
SMACK: emmmmmmmm
那么, SMACK到底是什么?
SMACK是由Spark、Mesos、Akka、Cassandra、Kafka 5个技术名词的缩写,以Spark平台为大数据运算引擎(煤气灶)、搭配分散式资源管理平台Mesos(鸳鸯锅)、以及消息处理平台Kafka(红油锅底)、脸书和Twitter都爱用的NoSQL资料库Cassandra(食材)、再加上分散式运算工具Akka(漏勺),适用于广泛的数据处理场景的大数据框架(重庆老灶火锅)。
当然,SMACK框架中的技术可以自由增加或替换,以此完成不断升级的大数据处理需求。SMCAK云框架里,我们在引擎层增加了Flink用于处理实时数据(麻油小碗),使用Kubernetes替换Mesos作为容器层(九宫格锅)。这里以某网站数据为例,提供SMACK大数据框架的最佳实践,包括SMACK、数据接入、数据展示在内的完整框架展示。
注意,数据餐厅的火锅盛宴即将开始!
Step 1. 安装云帮PaaS平台(整体式厨房)
好雨云帮PaaS平台【免费版、自助安装】
好雨云帮PaaS平台【企业版】
- 平台运行最小环境要求:4核CPU & 8GB 内存
- 框架运行最小环境要求:8核CPU & 32GB 内存
Step 2.下载SMACK Dockercompose文件(外卖小火锅,配送到家的那种,懂伐)
注:这个compose文件已经包含示例数据(带锅底),如需导入自己的项目数据,请看 Step 6。
Step 3.将compose文件导入云帮平台(升锅开火)
1.找到docker-compose_ACP 文件
2.通过云帮平台启动
3.下一步… 一步…. 步….
注意!这里有个组件拓扑图。
再次注意!这里需要全部开启“对外服务”(应用组组件之间互相通讯)。
又一次注意!有四个组件需要额外开启“外部访问”。
3.设置完成后,点击页面下方“建立一组应用”
各组件变绿以后,表示创建成功,SMACK 为ready状态。(开锅大吉)
(我变绿了,但我也变强了)
还是注意! 接下来需要调整组件内存。(以海边的kafka为例)
(打开之前导入docker-compose_ACP文件)
进行内存调整设置
调整完成后,点击“设置”,系统自动调整内存。
(其他组件调整方式同kafka)
Step 4.示例数据导入(自带锅底)
1.由于每个人的口味不同,这里以Grafana为例。
2.配置SMACK云框架中的示例数据(Grafana数据源设置)
Step 5.数据展示效果(盛盘动筷)
Step 6.如何变成自己的项目(下自己的喜欢菜,让别人无菜可吃)
修改docker-compose.yml文件,找到akka-instream并添加,然后重新部署(重复 step 3-4-5,咕噜咕噜咕噜)
—————————————————客气的结束语————————————————
大数据火锅盛宴,各位吃的还满意吗? 要不要我下面....
下面给大家预告下第三期「两学一做,拥护基于区块链的智能合约技术」 ,预计跟最phone 8同期发布,敬请期待。