OpenYurt 联手 eKuiper,解决 IoT 场景下边缘流数据处理难题

简介: 云计算的出现促使物联网实现爆炸式增长。在设备规模和业务复杂度不断攀升的趋势之下,边缘计算因其能够将计算能力更靠近网络边缘和设备,从而带来云性能成本的降低,也在这波浪潮之下得到快速发展。

诚然,物联网边缘计算尚处发展初期,有许多挑战需要被解决。比如在大量软件及通信协议极为复杂的设备异构环境下,需要具备快速处理业务数据,并对异常情况作出快速响应的能力;另外,在大多数情况下,出于安全或其他考虑,边缘节点在物理上无法从云节点直接访问,使部署变得困难,也无法实现云到边缘的管理。这些问题都使业务的连续性、稳定性和可用性遭受威胁。

现在,企业和开发者通过开源社区就能够找到应对以上问题的解决方案。近日,OpenYurt 与开源项目 eKuiper 正式达成合作,完成了集成对接:从 v0.4.0 版本开始,OpenYurt 将正式支持部署和管理 eKuiper ,双方将共同帮助开发者轻松、高效地解决物联网边缘计算场景下流式数据处理和运维挑战。

2.png

eKuiper:轻量级 IoT 数据分析和流处理开源软件

物联网边缘计算很多场景下需要流式数据处理能力。所谓流数据是指一组顺序、大量、快速、连续到达的数据序列。一般情况下,流数据可被视为一个随时间延续而无限增长的动态数据集合,它可以帮助用户实时了解系统设备的状态,并对异常情况做出快速响应。

在边缘端,计算资源(CPU,内存等)不像在云端一般丰富,因此传统的流式数据处理框架类似于 Apache Spark 或者 Apache Flink 等,由于其安装包过大,或者部署结构与过程过于复杂、运行时的高消耗等原因,并不适合于在这些资源受限的边缘设备(工控机、网关,或者配置不高的 X86 或者 ARM 服务器等设备)上运行。而 eKuiper 就是为了解决在物联网边缘设备上的这些问题而设计开发。

eKuiper 的前身是由开源物联网数据基础设施软件供应商 EMQ 于 2019 年正式开源的 Kuiper 项目。2021 年 6 月,Kuiper 项目加入 LF Edge 基金会并更名为 eKuiper,开始作为独立的项目运营。eKuiper 的本质是一个轻量级物联网数据分析和流处理软件,可以运行在各类资源受限的边缘设备上,希望使边缘端的流式数据处理拥有如 Spark 与 Flink 的能力。

OpenYurt:非侵入式的边缘云原生智能平台

云原生技术已经无处不在,并被应用于“新的应用负载” ,“新的计算形态”和“新的物理边界”。作为云原生的技术基石,容器和 Kubernetes 正在通过越来越多的计算形态承载,丰富的形态也开始从传统的中心云走向边缘计算、走向终端。

通常来说,边缘场景下计算规模庞大、业务复杂,采取原生 Kubernetes 的 workload 管理模型远不能满足现实中云原生边缘计算的落地需求;并且云边网络通过公网相连,网络连接有很大不可控因素,可能带来边缘业务运行的不稳定因素,而且由于边缘节点一般位于用户网络的防火墙内部,会造成云边网络只能单向连通的客观条件,给原生的 Kubernetes 运维监控带来很大挑战;最后,无可避免地要面对边缘资源种类的多样、异构,使边缘标准化支持面临困难。

OpenYurt 基于原生 Kubernetes 构建,是业界首个对 Kubernetes 无侵入的边缘计算云原生开源平台。OpenYurt 是阿里云容器服务产品 ACK@Edge 的核心框架,由阿里云于 2020 年 5 月以开源的方式反哺业界,并通过捐赠给 CNCF,实现更加中立、开放的社区环境,成为生态兼容场景下边缘云原生平台首选项目。

如果你想开发小程序或者app的话,可以通过第三方专业开发平台,来帮助你实现开发需求:厦门在乎科技-专注厦门小程序开发公司、APP开发、网站开发

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
相关文章
|
关系型数据库 物联网 PostgreSQL
沉浸式学习PostgreSQL|PolarDB 11: 物联网(IoT)、监控系统、应用日志、用户行为记录等场景 - 时序数据高吞吐存取分析
物联网场景, 通常有大量的传感器(例如水质监控、气象监测、新能源汽车上的大量传感器)不断探测最新数据并上报到数据库. 监控系统, 通常也会有采集程序不断的读取被监控指标(例如CPU、网络数据包转发、磁盘的IOPS和BW占用情况、内存的使用率等等), 同时将监控数据上报到数据库. 应用日志、用户行为日志, 也就有同样的特征, 不断产生并上报到数据库. 以上数据具有时序特征, 对数据库的关键能力要求如下: 数据高速写入 高速按时间区间读取和分析, 目的是发现异常, 分析规律. 尽量节省存储空间
767 1
|
6月前
|
消息中间件 弹性计算 物联网
【阿里云弹性计算】阿里云ECS在IoT领域的应用:支撑大规模设备连接与数据处理
【5月更文挑战第26天】阿里云ECS是弹性计算服务,支持IoT设备的连接与数据处理。通过MQTT协议实现设备快速接入,配合消息队列处理异构实时数据。ECS可用于部署数据处理工具、应用服务,如智能家居控制系统,通过弹性伸缩适应负载变化。结合阿里云其他服务,ECS为IoT提供完整解决方案,助力企业数字化转型。
95 0
|
传感器 存储 运维
IoT Studio场景最佳实践
本次物联网场景最佳实践我们用六合一传感器(温度、湿度、二氧化碳、PM2.5、PM10、甲醛)实现家庭环境数据实时采集,通过家中Wi-Fi上报到阿里云IoT物联网平台,借助IoT Studio低代码工具搭建可视化大屏,实时监控家中环境指标变化。
725 0
IoT Studio场景最佳实践
|
消息中间件 缓存 运维
阿里云IoT物联网实例视频讲解、场景案例汇总
阿里云IoT物联网实例视频讲解、场景案例汇总
1648 3
|
网络协议 物联网 数据安全/隐私保护
NB-IoT 之 M5310-A 模块介绍及应用场景分析 | 学习笔记
快速学习 NB-IoT 之 M5310-A 模块介绍及应用场景分析
NB-IoT 之 M5310-A 模块介绍及应用场景分析 | 学习笔记
|
消息中间件 存储 SQL
RocketMQ Streams在云安全及 IoT 场景下的大规模最佳实践
RocketMQ Streams的第三个应用场景是IOT。IOT是典型的边缘计算场景,挑战在于需要用4core 8g来混部其业务和RocketMQ Streams任务,几百个任务的压力非常大。而且它需要采用MQTT这样标准的IOT协议输入,也需要自定义规则引擎的能力进行统计计算、特征计算、Join计算和维表计算。
RocketMQ Streams在云安全及 IoT 场景下的大规模最佳实践
|
人工智能 供应链 搜索推荐
响铃:AI+IoT新赛道单品爆破只是短跑,全场景长跑才能决胜未来
响铃:AI+IoT新赛道单品爆破只是短跑,全场景长跑才能决胜未来
135 0
响铃:AI+IoT新赛道单品爆破只是短跑,全场景长跑才能决胜未来
|
人工智能 边缘计算 算法
阿里云IoT戴高:IoT场景化的本质是打造数智空间
阿里云AIoT 10月22日 在2021云栖大会IoT云端一体硬件与应用创新峰会上,阿里云IoT通用业务总经理戴高表示,每个人、每个企业、每个组织每天都在无数的空间中穿梭,因此IoT场景化就是要围绕人的工作生活打造各种数智化空间。
343 0
阿里云IoT戴高:IoT场景化的本质是打造数智空间
|
物联网 区块链
BlockChain&IOT:区块链技术与互联网的结合以及场景应用
BlockChain&IOT:区块链技术与互联网的结合以及场景应用
BlockChain&IOT:区块链技术与互联网的结合以及场景应用
下一篇
无影云桌面