AI 助理
文档备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 文章 正文

12月11日Spark社区直播【实时数仓建设以及典型场景应用】

2019-12-10 1563
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 本次分享会介绍实时数仓的思路以及一些实践，包括SparkStreaming SQL引擎，以及对Delta/Kudu/Druid/阿里云多种存储组件的深度整合；同时会在这个基础上介绍一些典型案例应用

议题：

实时数仓建设以及典型场景应用

直播间直达（回看）链接：

https://developer.aliyun.com/live/1758

简介：

本次分享会介绍实时数仓的思路以及一些实践，包括SparkStreaming SQL引擎，以及对Delta/Kudu/Druid/阿里云多种存储组件的深度整合；同时会在这个基础上介绍一些典型案例应用

讲师：

宋军，花名嵩林 阿里云EMR高级技术专家。从事Spark内核优化，对SparkCore/SprakSQL有深入了解，Spark Contributor

时间：

2019年12月11日 19：00
请钉钉扫码至群内观看直播，与嘉宾互动有机会获得社区礼物一份。

image.png

文章标签：
实时数仓 Hologres
分布式计算
SQL
druid
Spark
存储
关键词：
实时数仓 Hologres应用
实时数仓 Hologres场景
apache spark应用
apache spark场景
apache spark社区
相关实践学习
基于Hologres轻量实时的高性能OLAP分析
本教程基于GitHub Archive公开数据集，通过DataWorks将GitHub中的项⽬、行为等20多种事件类型数据实时采集至Hologres进行分析，同时使用DataV内置模板，快速搭建实时可视化数据大屏，从开发者、项⽬、编程语⾔等多个维度了解GitHub实时数据变化情况。
阿里云E-MapReduce团队
目录
相关文章
yuanzhengme
|
分布式计算 数据处理 Apache
Spark和Flink的区别是什么？如何选择？都应用在哪些行业？
【10月更文挑战第10天】Spark和Flink的区别是什么？如何选择？都应用在哪些行业？
yuanzhengme
2287 1
阿里云大数据
|
SQL 分布式计算 Serverless
鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
鹰角网络为应对游戏业务高频活动带来的数据潮汐、资源弹性及稳定性需求，采用阿里云 EMR Serverless Spark 替代原有架构。迁移后实现研发效率提升，支持业务快速发展、计算效率提升，增强SLA保障，稳定性提升，降低运维成本，并支撑全球化数据架构部署。
阿里云大数据
1429 56
鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
阿里云大数据Al技术
|
人工智能 自然语言处理 数据挖掘
云上玩转Qwen3系列之三：PAI-LangStudio x Hologres构建ChatBI数据分析Agent应用
PAI-LangStudio 和 Qwen3 构建基于 MCP 协议的 Hologres ChatBI 智能 Agent 应用，通过将 Agent、MCP Server 等技术和阿里最新的推理模型 Qwen3 编排在一个应用流中，为大模型提供了 MCP+OLAP 的智能数据分析能力，使用自然语言即可实现 OLAP 数据分析的查询效果，减少了幻觉。开发者可以基于该模板进行灵活扩展和二次开发，以满足特定场景的需求。
阿里云大数据Al技术
847 4
游客7wkr3y7oxyt7a
|
11月前
|
存储 传感器 数据采集
什么是实时数仓？实时数仓又有哪些应用场景？
实时数仓是一种能实现秒级数据更新和分析的系统，适用于电商、金融、物流等需要快速响应的场景。相比传统数仓，它具备更高的时效性和并发处理能力，能够帮助企业及时捕捉业务动态，提升决策效率。本文详细解析了其实现架构与核心特点，并结合实际案例说明其应用价值。
游客7wkr3y7oxyt7a
1385 9
aliyun6039169770-29419
|
SQL 分布式计算 关系型数据库
基于云服务器的数仓搭建-hive/spark安装
本文介绍了在本地安装和配置MySQL、Hive及Spark的过程。主要内容包括： - **MySQL本地安装**：详细描述了内存占用情况及安装步骤，涉及安装脚本的编写与执行，以及连接MySQL的方法。 - **Hive安装**：涵盖了从上传压缩包到配置环境变量的全过程，并解释了如何将Hive元数据存储配置到MySQL中。 - **Hive与Spark集成**：说明了如何安装Spark并将其与Hive集成，确保Hive任务由Spark执行，同时解决了依赖冲突问题。 - **常见问题及解决方法**：列举了安装过程中可能遇到的问题及其解决方案，如内存配置不足、节点间通信问题等。
aliyun6039169770-29419
667 1
基于云服务器的数仓搭建-hive/spark安装
阿里云大数据
|
机器学习/深度学习 分布式计算 大数据
阿里云 EMR Serverless Spark 在微财机器学习场景下的应用
面对机器学习场景下的训练瓶颈，微财选择基于阿里云 EMR Serverless Spark 建立数据平台。通过 EMR Serverless Spark，微财突破了单机训练使用的数据规模瓶颈，大幅提升了训练效率，解决了存算分离架构下 Shuffle 稳定性和性能困扰，为智能风控等业务提供了强有力的技术支撑。
阿里云大数据
761 15
技术小达人
|
存储 SQL 运维
Hologres OLAP场景核心能力介绍-2024实时数仓Hologres线上公开课02
本次分享由Hologres产品经理赵红梅（梅酱）介绍Hologres在OLAP场景中的核心能力。内容涵盖OLAP场景的痛点、Hologres的核心优势及其解决方法，包括实时数仓分析、湖仓一体加速、丰富的索引和查询性能优化等。此外，还介绍了Hologres在兼容PG生态、支持多种BI工具以及高级企业级功能如计算组隔离和serverless computing等方面的优势。最后通过小红书和乐元素两个典型客户案例，展示了Hologres在实际应用中的显著效益，如运维成本降低、查询性能提升及成本节省等。
技术小达人
561 7
申某某
|
存储 供应链 数据库
Hologres 索引：概念与实用场景
本文介绍了 Hologres 索引的概念、类型及在实际场景中的应用。Hologres 是阿里云的一款强大数据库产品，其索引功能显著提升了数据查询性能。文章详细探讨了 B 树索引、哈希索引和位图索引的特点及应用场景，并介绍了索引的创建和维护方法。此外，还列举了 Hologres 中的重要参数设置及其使用限制，最后通过电商、金融、物流和社交媒体等领域的具体案例，展示了索引在不同场景下的实用价值。
申某某
733 10
技术小达人
|
SQL 分布式计算 Serverless
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
技术小达人
389 0
穿过生命散发芬芳
|
运维 数据挖掘 网络安全
场景实践 | 基于Flink+Hologres搭建GitHub实时数据分析
基于Flink和Hologres构建的实时数仓方案在数据开发运维体验、成本与收益等方面均表现出色。同时，该产品还具有与其他产品联动组合的可能性，能够为企业提供更全面、更智能的数据处理和分析解决方案。
穿过生命散发芬芳
636 5
大数据与机器学习

开源大数据平台 E-MapReduce

热门文章

最新文章

  • 1
    分布式快照算法: Chandy-Lamport
  • 2
    开源深度学习库BigDL在阿里云E-MapReduce上的实践
  • 3
    阿里云大数据+AI技术沙龙上海站回顾 | ​揭秘TPC-DS 榜单第一名背后的强大引擎
  • 4
    E-MapReduce Kafka Kerberos集群授权
  • 5
    一键扩容E-MapReduce集群，运维SO EASY
  • 6
    开源大数据周刊-第80期
  • 7
    开源大数据周刊-第78期
  • 8
    开源大数据周刊-第36期
  • 9
    E-MapReduce集群启停HDFS/YARN服务
  • 10
    【转】Spark 2.0 技术预览版:更简单、更快速、更智
  • 1
    优路教育借助阿里云Flink+StarRocks+Paimon湖仓一体化构建职业教育业务全链路实时数据服务平台
    424
  • 2
    OpenClaw + QQ 机器人！保姆级图文教程，一步到位
    546
  • 3
    1688商品详情API（1688.item_get）Python实战：构建B2B供应链数据中台
    343
  • 4
    迅雷基于阿里云 EMR Serverless Spark 实现数仓资源效率与业务提升
    275
  • 5
    鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
    700
  • 6
    一套底座支撑多场景：高德地图基于 Paimon + StarRocks 轨迹服务实践
    466
  • 7
    EMR Serverless Spark 携手 PAI/百炼，开启“SQL 即 AI”的新篇章
    318
  • 8
    诗悦游戏基于DLF与EMR StarRocks降本38%
    387
  • 9
    基于DLF构建实时数据湖
    291
  • 10
    数仓-湖仓-湖流，人力家基于阿里云OpenLake架构演进与思考
    408

    • 相关课程

    更多
  • 大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第七阶段
  • 阿里云实时数仓实战 - 项目介绍及架构设计
  • 阿里云实时数仓实战 - 数据生成及采集
  • 阿里云实时数仓实战 - 用户行为数仓搭建
  • 阿里云实时数仓实战 - 作业调度与数据可视化
  • 大数据实时计算框架Spark快速入门

    • 相关电子书

    更多
  • Hybrid Cloud and Apache Spark
  • Scalable Deep Learning on Spark
  • Comparison of Spark SQL with Hive

    • 相关实验场景

    更多
  • 基于Hologres轻量实时的高性能OLAP分析
  • 基于Hologres+Flink搭建GitHub实时数据大屏
    • 下一篇
    利用阿里云OSS（对象存储服务）快速搭建私人网盘