硅谷飘来五个字,SMACK


简介: 上次我们跟大家分享了「少打一局王者荣耀就能上手Spring Cloud?!」,学到就是赚到,翘课的同学抓紧补习了。本期为大家带来全新「与硅谷大数据工程师吃着火锅唱着歌就把SMACK入门了」篇。
上次我们跟大家分享了「 少打一局王者荣耀就能上手Spring Cloud?!」,学到就是赚到,翘课的同学抓紧补习了。本期为大家带来全新「 与硅谷大数据工程师吃着火锅唱着歌就把SMACK入门了」篇。
SMACK起源于硅谷,旨在提供更快更强的大数据处理能力。SMACK刚登上技术舞台,便将传统的数据处理能力提升了一个量级,狠狠打了hadoop等技术的老脸,从此有了一个响亮的名字SMACK。(假的)
硅谷飘来五个字,SMACK

hadoop:听说你很拽厚 !    now listen, you have free-style ?  what’s your name?
SMACK:  emmmmmmmm

那么, SMACK到底是什么?
SMACK是由Spark、Mesos、Akka、Cassandra、Kafka 5个技术名词的缩写,以Spark平台为大数据运算引擎(煤气灶)、搭配分散式资源管理平台Mesos(鸳鸯锅)、以及消息处理平台Kafka(红油锅底)、脸书和Twitter都爱用的NoSQL资料库Cassandra(食材)、再加上分散式运算工具Akka(漏勺),适用于广泛的数据处理场景的大数据框架(重庆老灶火锅)。
当然,SMACK框架中的技术可以自由增加或替换,以此完成不断升级的大数据处理需求。SMCAK云框架里,我们在引擎层增加了Flink用于处理实时数据(麻油小碗),使用Kubernetes替换Mesos作为容器层(九宫格锅)。这里以某网站数据为例,提供SMACK大数据框架的最佳实践,包括SMACK、数据接入、数据展示在内的完整框架展示。


注意,数据餐厅的火锅盛宴即将开始!

Step 1. 安装云帮PaaS平台(整体式厨房)
好雨云帮PaaS平台【免费版、自助安装】
好雨云帮PaaS平台【企业版】
  • 平台运行最小环境要求:4核CPU & 8GB 内存
  • 框架运行最小环境要求:8核CPU & 32GB 内存
Step 2.下载SMACK Dockercompose文件(外卖小火锅,配送到家的那种,懂伐)
注:这个compose文件已经包含示例数据(带锅底),如需导入自己的项目数据,请看 Step 6。
Step 3.将compose文件导入云帮平台(升锅开火)
1.找到docker-compose_ACP 文件
硅谷飘来五个字,SMACK

2.通过云帮平台启动


硅谷飘来五个字,SMACK

3.下一步…  一步….  步….
硅谷飘来五个字,SMACK

注意!这里有个组件拓扑图。

硅谷飘来五个字,SMACK

再次注意!这里需要全部开启“对外服务”(应用组组件之间互相通讯)。

硅谷飘来五个字,SMACK

又一次注意!有四个组件需要额外开启“外部访问”。
硅谷飘来五个字,SMACK

硅谷飘来五个字,SMACK

硅谷飘来五个字,SMACK

硅谷飘来五个字,SMACK

3.设置完成后,点击页面下方“建立一组应用”
各组件变绿以后,表示创建成功,SMACK 为ready状态。(开锅大吉)
硅谷飘来五个字,SMACK

(我变绿了,但我也变强了)
还是注意! 接下来需要调整组件内存。(以海边的kafka为例)
(打开之前导入docker-compose_ACP文件)
190bc0ceaea373d85710b1fc247b3ababb34f18d
进行内存调整设置
硅谷飘来五个字,SMACK

硅谷飘来五个字,SMACK

硅谷飘来五个字,SMACK

硅谷飘来五个字,SMACK

调整完成后,点击“设置”,系统自动调整内存。
硅谷飘来五个字,SMACK

(其他组件调整方式同kafka)

Step  4.示例数据导入(自带锅底)

1.由于每个人的口味不同,这里以Grafana为例。

2.配置SMACK云框架中的示例数据(Grafana数据源设置)
硅谷飘来五个字,SMACK

Step 5.数据展示效果(盛盘动筷)
硅谷飘来五个字,SMACK

Step 6.如何变成自己的项目(下自己的喜欢菜,让别人无菜可吃)
修改docker-compose.yml文件,找到akka-instream并添加,然后重新部署(重复 step 3-4-5,咕噜咕噜咕噜)

—————————————————客气的结束语————————————————

大数据火锅盛宴,各位吃的还满意吗? 要不要我下面.... 
下面给大家预告下第三期「两学一做,拥护基于区块链的智能合约技术」 ,预计跟最phone 8同期发布,敬请期待。
相关文章
|
3月前
|
运维 API 调度
阿里云/本地部署OpenClaw多Agent架构完全指南:Multi‑Agent与主Agent+Sub‑Agent选型、大模型配置流程
在OpenClaw的实际使用中,用户最容易陷入架构困惑:到底应该使用**Multi‑Agent(多独立智能体)**,还是**主Agent + Sub‑Agent(总控+子代理)**?两种模式在设计目标、运行机制、数据隔离、权限管理、消息路由上完全不同,混用会导致上下文混乱、维护成本飙升、系统不稳定。
2469 16
|
机器学习/深度学习 人工智能 自然语言处理
DeepSeek 开源 R1 系列推理模型,性能对标 OpenAI o1,基于纯强化学习完成自我进化,无需监督微调
DeepSeek R1-Zero 是一款基于纯强化学习的开源推理模型,无需监督微调数据,支持多任务泛化与自我进化,适用于数学推理、代码生成等场景。
1416 21
DeepSeek 开源 R1 系列推理模型,性能对标 OpenAI o1,基于纯强化学习完成自我进化,无需监督微调
|
存储 算法
有向图和无向图的表示方式(邻接矩阵,邻接表)
有向图和无向图的表示方式(邻接矩阵,邻接表)
3166 1
|
小程序 搜索推荐 JavaScript
美食推荐|美食推荐小程序|基于微信小程序的美食推荐系统设计与实现(源码+数据库+文档)
美食推荐|美食推荐小程序|基于微信小程序的美食推荐系统设计与实现(源码+数据库+文档)
714 3
|
存储 程序员
LabVIEW性能和内存管理 7 LabVIEW中局部和全局变量的内存分配
LabVIEW性能和内存管理 7 LabVIEW中局部和全局变量的内存分配
403 0
|
Linux 网络虚拟化 数据中心
【教程】docker容器间跨宿主机通信-基于overlay
【教程】docker容器间跨宿主机通信-基于overlay
1310 0
【教程】docker容器间跨宿主机通信-基于overlay
|
消息中间件 存储 供应链
NBF事件中心架构设计与实现
NBF是阿里巴巴供应链中台的基础技术团队打造的一个技术PaaS平台,她提供了微服务FaaS框架,低代码平台和中台基础设施等一系列的PaaS产品,旨在帮助业务伙伴快速复用和扩展中台能力,提升研发效能和对外的商业化输出。事件中心就是NBF系列技术产品中的一员。本文首先介绍事件驱动架构的概念及适用场景,然后会介绍事件中心产品的设计和实现。
NBF事件中心架构设计与实现
|
存储 SQL 缓存
阿里云EMR Remote Shuffle Service在小米的实践,以及开源
阿里云EMR自2020年推出Remote Shuffle Service(RSS)以来,帮助了诸多客户解决Spark作业的性能、稳定性问题,并使得存算分离架构得以实施,与此同时RSS也在跟合作方小米的共建下不断演进。本文将介绍RSS的最新架构,在小米的实践,以及开源。
4619 0
|
传感器 运维 网络协议
谈谈MQTT协议下的历史演进及实践
MQTT是基于TCP/IP协议栈构建的异步通信消息协议,是一种轻量级的发布、订阅信息传输协议。MQTT已逐渐成为IoT领域最热门的协议,也是国内外各大物联网平台最主流的传输协议,阿里云IoT物联网平台很多设备都是通过MQTT接入。本文将详细介绍MQTT协议的历史演进,以及阿里云IoT物联网平台在MQTT协议层实践中的一些关键设计及思考。
谈谈MQTT协议下的历史演进及实践
|
弹性计算 人工智能 运维
阿里云计算巢加速器:让优秀的软件生于云、长于云—嘉宾精彩观点—阿里云计算巢产品负责人何川:以技术手段解决ISV伙伴的业务难题
阿里云计算巢加速器:让优秀的软件生于云、长于云—嘉宾精彩观点—阿里云计算巢产品负责人何川:以技术手段解决ISV伙伴的业务难题
1183 0