开源大数据周刊-第97期

本文涉及的产品
EMR Serverless StarRocks,5000CU*H 48000GB*H
简介: 本期周刊带来了开源社区重要的产品更新,包括Flink和Alluxio等,还有互联网一线公司以及传统银行业的最新大数据应用实践。
+关注继续查看

资讯

机器学习虽然在过去几年取得了重大进展,也出现了很多相关的框架,但因为缺乏事实上的标准,在重用和整合机器学习模型时通常涉及大量的定制化工作,而且在性能方面也存在不足。甲骨文开源的 GraphPipe 旨在解决这些问题,让机器学习变得更加简单,使企业更容易从任何框架部署和查询机器学习模型。

Apache Flink 1.6.0在上周发布,涵盖多项重要更新,此版本继续使 Flink 用户能够无缝地运行快速数据处理并轻松构建数据驱动和数据密集型应用程序。

云端逐渐成为大数据企业的必争之地,近期开源分布式存储系统Alluxio发布1.8版本,加速针对数据分析及机器学习的云端部署,新版本的功能包括了支持FUSE、针对不同云端存储方案的优化等。

技术

马蜂窝大数据平台自 2017 年下半年引入 Apache Kylin 以来,极大的提升了数据分析师对于数据探索的效率。因为使用了 Apache Kylin,数据分析师可以直接查询大数据、无需排队、亚秒级响应,整体开发效率提高了 10 倍以上。

本文介绍了传统Spark生态系统的架构,以及MongoDB作为一个数据库存储引擎在Spark生态的角色,着重介绍了使用MongoDB替换传统HDFS后带来的好处。

本文来自于王新春在2018年7月29日 Flink China社区线下 Meetup·上海站的分享,演讲者分享了唯品会实时平台现状,实时看板、实时ETL等Flink应用场景,以及Flink在Kubernetes上的部署情况。

近年来,随着大数据与人工智能相关技术的迅速发展,新技术逐步在全社会各行各业得到应用。银行业作为一个高度信息化的行业,首当其冲面临着互联网新技术应用的挑战。民生银行从2013年开始布局分布式、大数据及人工智能技术等领域,在支撑业务应用场景发展的同时,建设了几大平台,支持可视化机器学习、实时推荐引擎、数据开放等场景。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1小时前
|
存储 人工智能 大数据
【2023云栖】陈守元:阿里云开源大数据产品年度发布
阿里云计算平台事业部开源大数据产品总监陈守元围绕EMR、Flink Streaming Lakehouse、 Elasticsearch、Milvus等产品发布展开分享介绍。
40 2
|
23天前
|
人工智能 分布式计算 大数据
开源大数据平台 3.0 技术解读
阿里云研究员,阿里云计算平台事业部开源大数据平台负责人王峰围绕新一代的流式湖仓、全面 Serverless 化、更智能的开源大数据等多维度解读开源大数据平台 3.0~
809 1
开源大数据平台 3.0 技术解读
|
24天前
|
机器学习/深度学习 分布式计算 大数据
开源大数据平台的发展
开源大数据平台的发展
29 0
|
2月前
|
存储 分布式计算 数据可视化
开源在大数据和分析中的角色
开源在大数据和分析中的角色
26 0
|
3月前
|
运维 大数据 数据挖掘
SelectDB x 白鲸开源金融大数据解决方案正式发布!
飞轮科技联合白鲸开源,针对金融行业大数据实时分析的场景共同推出高效实用的解决方案。
|
4月前
|
存储 分布式计算 大数据
CommunityOverCode Asia 精彩回顾|阿里云开源大数据 EMR 技术实践分享
阿里云开源大数据 EMR 在 CommunityOverCode Asia 的精彩分享。
465 0
|
6月前
|
数据采集 消息中间件 存储
大数据数据采集的数据采集(收集/聚合)的Logstash之概念的开源数据收集引擎
在大数据领域,数据采集是非常重要的一环。而Logstash作为一个开源的数据收集引擎,可以帮助我们轻松地实现数据的采集、聚合和传输等功能。本文将会对Logstash进行详细介绍。
156 0
|
6月前
|
SQL 运维 监控
开源大数据平台 E-MapReduce Serverless StarRocks 产品介绍
本文将分享阿里云与 StarRocks 社区合作打造的云上 StarRocks 极速湖仓的云原生产品实践。 主要包括四个部分,第一部分介绍 StarRocks 全托管形态,以及免运维服务的 OLAP 云产品;第二部 分介绍 StarRocksManager 的实例管理、诊断分析、元数据管理、安全中心等功能;第三部分介绍 在社交、在线教育、电商等场景的使用案例;最后是对产品的长短期规划。
6560 0
|
7月前
|
大数据
《阿里云产品手册2022-2023 版》——开源大数据平台 E-MapReduce
《阿里云产品手册2022-2023 版》——开源大数据平台 E-MapReduce
|
7月前
|
分布式计算 算法 数据可视化
带你读《2022年开源大数据热力报告》——研究目标和研究模型
带你读《2022年开源大数据热力报告》——研究目标和研究模型
271 0
相关产品
开源大数据平台 E-MapReduce
推荐文章
更多