阿里云E-MapReduce团队个人页面-阿里云开发者社区

个人头像照片 阿里云E-MapReduce团队 TA的个人档案
个人头像照片

个人介绍

暂无个人介绍

擅长的技术

  • Java
  • Python
  • 前端开发
  • Linux
  • 数据库
获得更多能力
通用技术能力:

暂时未有相关通用技术能力~

云产品技术能力:

暂时未有相关云产品技术能力~

阿里云技能认证

详细说明
  • 高分内容
  • 最新动态
  • 文章
  • 问答
正在加载, 请稍后...
滑动查看更多

2020年09月

  • 09.28 15:35:38
    发表了文章 2020-09-28 15:35:38

    如何实现Spark on Kubernetes?

    如何实现Spark on Kubernetes?
  • 09.28 14:42:02
    发表了文章 2020-09-28 14:42:02

    数据湖架构,为什么需要“湖加速”?

    数据湖架构,为什么需要“湖加速”?
  • 09.18 11:24:41
    发表了文章 2020-09-18 11:24:41

    欢迎加入 databricks 数据洞察产品交流钉钉群

    欢迎加入 databricks 数据洞察产品交流钉钉群
  • 09.18 11:01:39
    发表了文章 2020-09-18 11:01:39

    欢迎加入 E- MapReduce 钉钉产品交流群

    欢迎加入 E- MapReduce 钉钉产品交流群
  • 09.15 20:55:03
    发表了文章 2020-09-15 20:55:03

    JindoFS 存储策略和读写优化

    JindoFS 存储策略和读写优化
  • 09.14 23:14:33
    发表了文章 2020-09-14 23:14:33

    官宣!阿里云重磅发布云原生数据湖体系

    官宣!阿里云重磅发布云原生数据湖体系
  • 09.14 23:04:45
    发表了文章 2020-09-14 23:04:45

    【数据湖开发治理篇】——数据湖开发治理平台DataWorks

    【数据湖开发治理篇】——数据湖开发治理平台DataWorks
  • 09.14 22:58:36
    发表了文章 2020-09-14 22:58:36

    Serverless Spark的弹性利器 - EMR Shuffle Service

    Serverless Spark的弹性利器 - EMR Shuffle Service
  • 09.14 22:42:20
    发表了文章 2020-09-14 22:42:20

    云原生计算引擎挑战与解决方案

    云原生计算引擎挑战与解决方案
  • 09.14 22:30:37
    发表了文章 2020-09-14 22:30:37

    数据湖构建服务搭配Delta Lake玩转CDC实时入湖

    数据湖构建服务搭配Delta Lake玩转CDC实时入湖
  • 09.14 22:14:07
    发表了文章 2020-09-14 22:14:07

    多数据源一站式入湖

    多数据源一站式入湖
  • 09.14 22:05:32
    发表了文章 2020-09-14 22:05:32

    多引擎集成挖掘湖上数据价值

    多引擎集成挖掘湖上数据价值
  • 09.14 21:59:56
    发表了文章 2020-09-14 21:59:56

    数据湖元数据服务的实现和挑战

    数据湖元数据服务的实现和挑战
  • 09.14 21:48:23
    发表了文章 2020-09-14 21:48:23

    JindoDistCp数据湖离线数据迁移最佳实践

    JindoDistCp数据湖离线数据迁移最佳实践
  • 09.14 21:02:54
    发表了文章 2020-09-14 21:02:54

    JindoTable数据湖优化与查询加速

    JindoTable数据湖优化与查询加速
  • 09.14 20:53:47
    发表了文章 2020-09-14 20:53:47

    JindoFS缓存加速数据湖上的机器学习训练

    JindoFS缓存加速数据湖上的机器学习训练
  • 09.14 20:38:00
    发表了文章 2020-09-14 20:38:00

    基于JindoFS+OSS构建高效数据湖

    基于JindoFS+OSS构建高效数据湖
  • 09.14 20:16:54
    发表了文章 2020-09-14 20:16:54

    基于OSS的EB级数据湖

    基于OSS的EB级数据湖
  • 09.14 18:39:09
    发表了文章 2020-09-14 18:39:09

    阿里巴巴数据湖技术对外公布

    阿里巴巴数据湖技术对外公布
  • 09.14 10:58:47
    发表了文章 2020-09-14 10:58:47

    阿里云 EMR 产品内部培训课程首次免费对外公开!

    阿里云 EMR 产品内部培训课程首次免费对外公开!
正在加载, 请稍后...
滑动查看更多
  • 发表了文章 2020-09-28

    如何实现Spark on Kubernetes?

  • 发表了文章 2020-09-28

    数据湖架构,为什么需要“湖加速”?

  • 发表了文章 2020-09-18

    欢迎加入 databricks 数据洞察产品交流钉钉群

  • 发表了文章 2020-09-18

    欢迎加入 E- MapReduce 钉钉产品交流群

  • 发表了文章 2020-09-15

    JindoFS 存储策略和读写优化

  • 发表了文章 2020-09-14

    官宣!阿里云重磅发布云原生数据湖体系

  • 发表了文章 2020-09-14

    【数据湖开发治理篇】——数据湖开发治理平台DataWorks

  • 发表了文章 2020-09-14

    Serverless Spark的弹性利器 - EMR Shuffle Service

  • 发表了文章 2020-09-14

    云原生计算引擎挑战与解决方案

  • 发表了文章 2020-09-14

    数据湖构建服务搭配Delta Lake玩转CDC实时入湖

  • 发表了文章 2020-09-14

    多数据源一站式入湖

  • 发表了文章 2020-09-14

    多引擎集成挖掘湖上数据价值

  • 发表了文章 2020-09-14

    数据湖元数据服务的实现和挑战

  • 发表了文章 2020-09-14

    JindoDistCp数据湖离线数据迁移最佳实践

  • 发表了文章 2020-09-14

    JindoTable数据湖优化与查询加速

  • 发表了文章 2020-09-14

    JindoFS缓存加速数据湖上的机器学习训练

  • 发表了文章 2020-09-14

    基于JindoFS+OSS构建高效数据湖

  • 发表了文章 2020-09-14

    基于OSS的EB级数据湖

  • 发表了文章 2020-09-14

    阿里巴巴数据湖技术对外公布

  • 发表了文章 2020-09-14

    阿里云 EMR 产品内部培训课程首次免费对外公开!

正在加载, 请稍后...
滑动查看更多
  • 回答了问题 2019-07-31

    阿里的EMR里推出了JindoFS, 也简称 jfs, 有用过的吗

    Jindo 是阿里云 EMR 的技术代号,寓意在云上会玩的弹性计算,JindoFS 是这个技术体系下的存储解决方案。

    阿里云 HDFS 是一款云存储产品,跟 OSS 是同一级别的。JindoFS 是 EMR 产品内部的一个统一存储解决方案,对接各种存储系统。

    JindoFS 是个多模系统,缓存这种模式是支持的。

    JindoFS和smartFS是同类功能。

    JindoFS 跟 Alluxio可能有些类似。不过我们希望更轻量,对计算和业务更透明。毕竟 Alluxio 要满足业界的各种存储系统,但是阿里云 EMR 不需要考虑那么多。

    架构图.png

    二维码.JPG

    踩0 评论0
  • 提交了问题 2019-07-31

    阿里的EMR里推出了JindoFS, 也简称 jfs, 有用过的吗

  • 回答了问题 2019-07-17

    读取emr高安全集群的hbase数据

    1. 公网环境 怎么理解
    2. 走公网验证?

    为何不走vpn/nat方式

    1、本地环境和EMR交互 不在一个vpc下
    EMR在线上环境 vpn没有打通线上环境

    结果集有多大?,运算倒是可以这样搞,如果是频繁的业务交互 不建议这样,还不如 本地集群 想办法 利用 oss

    踩0 评论0
  • 提交了问题 2019-05-29

    读取emr高安全集群的hbase数据

  • 提交了问题 2019-04-26

    Spark Streaming 作业运行一段时间后无故结束

  • 提交了问题 2019-04-26

    多个 ConsumerID 消费同一个 Topic 时出现 TPS 不一致问题

  • 提交了问题 2019-04-26

    第一次使用执行计划时没有安全组可选

  • 提交了问题 2019-04-26

    如何查看作业日志

  • 提交了问题 2019-04-26

    作业和执行计划的区别

  • 回答了问题 2019-07-17

    E-MapReduce与ODPS的区别

    E-MapReduce 是构建于阿里云 ECS 弹性虚拟机之上,利用开源大数据生态系统,包括 Hadoop、Spark、HBase,为用户提供集群、作业、数据等管理的一站式大数据处理分析服务。

    大数据计算服务(MaxCompute,原名ODPS)是一种快速、完全托管的TB/PB级数据仓库解决方案。MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型,能够更快速的解决用户海量数据计算问题,有效降低企业成本,并保障数据安全。

    踩1 评论0
  • 回答了问题 2019-07-17

    使用emapreduce集群,怎么访问公网呢?包括计费等能详细解析下吗?

    1.E-MapReduce目前默认会给集群的master节点开通公网IP,classic网络下按照流量收费,vpc网络下使用的是EIP,eip会收取使用费和流量费用,使用费按照小时计费(每个region不一样,看了一下大概0.05元/小时),但是如果绑定了ecs,那么不会收取使用费,只收取流量费

    2.用户自己购买的ECS(不是从E-MapReduce购买),如果想访问E-MapReduce集群:
    a) classic网络的ECS -> classic网络的E-MapReduce集群,可以给E-MapReduce集群设置安全组,通过内网访问,不收取流量费用
    b) classic网络的ECS -> vpc网络的E-MapReduce集群,只能通过公网访问E-MapReduce集群
    c) vpc网络的ECS -> classic网络的E-MapReduce集群,只能通过公网访问E-MapReduce集群
    d) vpc网络的ECS -> vpc网络的E-MapReduce集群,通过阿里云的高速通道产品进行连接访问

    3.线下机器访问E-MapReduce集群,只能通过高速通道,而且E-MapReduce集群必须是VPC的

    4.E-MapReduce集群访问公网
    master节点默认有公网IP,可以直接访问公网,slave节点可以自己挂一个EIP,或者通过自己搭建一个NAT网关(详见https://help.aliyun.com/document_detail/27738.html)

    踩0 评论0
  • 回答了问题 2019-07-17

    我刚才提了个问题,postgresql的,说有敏感词汇,能否审核通过。

    应该很快就能通过

    踩0 评论0
  • 提交了问题 2016-05-26

    如何导出HBase的表的数据

  • 回答了问题 2019-07-17

    使用E-MapReduce,spark中读取oss文件

    看了你的日志,感觉是你的endpoint写错了把,你再确认一下。

    踩0 评论0
正在加载, 请稍后...
滑动查看更多