JStorm,让大规模流处理成为可能

简介: 本文PPT来自资深专家封仲淹于10月16日在2016年杭州云栖大会上发表的《Large-Scale Stream Processing inside Alibaba》。

本文PPT来自资深专家封仲淹于10月16日在2016年杭州云栖大会上发表的《Large-Scale Stream Processing inside Alibaba》。

JStorm 是阿里巴巴基于storm采用Java重写的一套开源的分布式实时流计算框架,其诞生于2013年,经历多次迭代,至今已经发布25了版本。总体而言,JStorm具有高性能、高稳定性,适于大规模部署这些特点,其他的用户方的特色功能包括用户自定义的调度器和资源用法、先进的日志机制、更细粒度的Metrics、动态规模调整和快速的应用升级等等。

目前,JStorm运行在超过4000台机器上,它不仅能单独部署,也实现了JStorm-on-yarn和JStorm-on-docker,使JStorm能够被部署在框架上。这些集群共形成了超过1500个应用和2000余个拓扑结构,每天产生的数据超过惊人的2PB。在实际运用中,JStorm有许多应用场景,如欺诈检测、广告审核、数据统计、系统监控、数据传输、实时推荐和应用调度等,除了供阿里自身使用,JStorm还被众安保险、科大迅飞、网宿科技等超过50家公司使用。未来,JStorm将支持Apache Beam,并努力成为一个强大的高级语言框架,使其更容易学习和调试,提供更大的吞吐量。

最后关于JStorm和Storm的区别,阿里的JStorm不仅仅是Storm的简单包装,更重要的是JStorm意味着一个流处理生态系统,一个企业级的Java Storm,并且比Storm更快、更稳定、特性也更多。

eb9732e3e1083f70d1fe5c6d71b944b951070db7

27f5ae8c6dcaff65372bafd4820fb60d8166c83e

bab74a8a17b0b51265f7bbe3579e074c09e6a02b

eb869cb2bf1c1b1341a014d5c26a152a036f9bd9

59d4cd568a9d348e369bf1590593778956d71ec3

832e9e70129877522a9ee7de18ee22126b9d086d

282a606667b6fea5506fe67d720dffe4505058ad

b87dff381ddbbf35a68012d708df360dddcb5c49

b47074b2fa83e51a2ad5a9324ae3a8312931c8ef

c381c0310d107cc457dd8249abb9cf57f157fac2

d9fd5028f4e98558cb3918400f64fcf59fcc43fa

2f9259b9e715baf2c742dded59dafe355ceb0b67

a0020a8712388973a956a4f16e56941c4eeaf35b


相关文章
|
Java 中间件 微服务
27个阿里 Java 开源项目,值得收藏!
大家好,这里为大家整理了阿里的Java开源项目,希望对大家有所帮助
12838 0
27个阿里 Java 开源项目,值得收藏!
|
存储 前端开发 JavaScript
AntV X6源码探究简析
AntV是蚂蚁金服全新一代数据可视化解决方案,其中X6主要用于解决图编辑领域相关的解决方案,其是一款图编辑引擎,内置了一下编辑器所需的功能及组件等,本文旨在通过简要分析x6源码来对图编辑领域的一些底层引擎进行一个大致了解,同时也为团队中需要进行基于X6编辑引擎进行构建的图编辑器提供一些侧面了解,在碰到问题时可以较快的找到问题点。
998 0
|
安全 Shell 开发工具
|
Python
Python读取DataFarme中Nan值时显示“KeyError: 1”
Python读取DataFarme中Nan值时显示“KeyError: 1”
909 0
Python读取DataFarme中Nan值时显示“KeyError: 1”
|
存储 人工智能 API
七种RAG架构cheat sheet!
RAG 即检索增强生成,是一种结合检索技术和生成模型的人工智能方法。Weaviate厂商给出了七种RAG架构cheat sheet。
1158 18
|
SQL 存储 数据库
OceanBase数据库优化
【8月更文挑战第14天】OceanBase数据库优化
739 2
|
JavaScript Java 测试技术
基于springboot+vue.js+uniapp小程序的校园求职招聘系统附带文章源码部署视频讲解等
基于springboot+vue.js+uniapp小程序的校园求职招聘系统附带文章源码部署视频讲解等
249 14
|
开发工具 iOS开发
升级Xcode 10后遇到的问题
升级Xcode 10后遇到的问题
556 0
|
机器学习/深度学习 人工智能 算法
神经网络算法——反向传播 Back Propagation
神经网络算法——反向传播 Back Propagation
1075 0
|
Docker 容器
使用Docker安装FastDFS
使用Docker安装FastDFS

热门文章

最新文章