开发者社区> 大数据与机器学习> 大数据计算 MaxCompute

大数据计算 MaxCompute

关注

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

0
今日
8280
内容
12
活动
348232
关注
|
存储 分布式计算 资源调度
|

阿里云 MaxCompute 2020-6 月刊

MaxCompute备份与恢复功能(公测)发布,提供持续备份用户修改/删除历史数据,支持快速恢复,持续保护数据安全。 该功能适用于广泛的企业级客户,尤其适用于对数据保护有强需求、担心数据误删除以及担心数据被恶意删除的客户。

1029 0
|
资源调度 大数据 调度
|

独家下载 | “伏羲”神算!阿里巴巴经济体核心调度系统揭秘

阿里巴巴 9 位技术专家为你深度解析阿里巴巴经济体核心调度系统“伏羲”。伏羲(Fuxi)作为十年前最初创立飞天平台时的三大服务之一(分布式存储 Pangu,分布式计算 MaxCompute,分布式调度 Fuxi),十年来,在技术能力上持续演进。本书从面向大数据、云计算的调度挑战出发,介绍伏羲调度系统及各子领域的关键技术进展,并以双11为典型场景进行最佳实践的介绍,为你呈现大数据分布式调度技术的深水区玩法。— 《“伏羲”神算》现在可以免费下载阅读啦,快来先睹为快吧。

39233 0
|
消息中间件 人工智能 DataWorks
|

交互式分析(Hologres)2020年5月刊

交互式分析(Hologres)2020年5月刊将会为您带来产品、技术最新动态。

1197 0
|
存储 分布式计算 安全
|

SaaS模式云数据仓库MaxCompute发布企业级新能力:兼顾成本与性能,持续保护云上数据及服务安全

2020年6月9日,阿里云MaxCompute全新发布企业级新能力,在成本、性能、安全方面,持续定义企业级SaaS模式云数据仓库,通过 “云数据仓库+” 的新模式,帮助企业实现数字经济新优势。

1018 0
|
存储 分布式计算 安全
|

SaaS模式云数据仓库MaxCompute发布企业级新能力:兼顾成本与性能,持续保护云上数据及服务安全

2020年6月9日,阿里云MaxCompute全新发布企业级新能力,在成本、性能、安全方面,持续定义企业级SaaS模式云数据仓库,通过 “云数据仓库+” 的新模式,帮助企业实现数字经济新优势。

2300 0
|
机器学习/深度学习 人工智能 分布式计算
|

直播 | 阿里、快手、Databricks、网易云音乐...国内外大数据大佬齐聚一堂要聊啥?

这场Meetup直播一次性安排了当前大数据及AI领域热门话题,你确定不来参见吗?

1122 0
|
分布式计算 资源调度 DataWorks
|

阿里云 MaxCompute 2020-5 月刊

MaxCompute迁移工具MMA2.0新版本发布,MMA2.0不仅在技术架构上做了重构,在功能上也有重大升级,提升了迁移效率和运行稳定性的同时,在操作体验上也更加自动化和智能化。更多5月产品动态,欢迎阅读MaxCompute5月刊。

905 0
|
分布式计算 资源调度 调度
|

阿里云 MaxCompute 2020-5 月刊

MaxCompute迁移工具MMA2.0新版本发布,MMA2.0不仅在技术架构上做了重构,在功能上也有重大升级,提升了迁移效率和运行稳定性的同时,在操作体验上也更加自动化和智能化。更多5月产品动态,欢迎阅读MaxCompute5月刊。

1992 0
|
SQL 存储 分布式计算
|

MaxCompute问答整理之2020-04~05月

飞天大数据平台计算引擎MaxCompute成为全球首个TPCx-BB认证的公共云产品,是除Hive、Spark以外TPCx-BB第三个标准支持的大数据引擎。

1215 0
|
分布式计算 DataWorks Java
|

如何使用MaxCompute Spark读写阿里云Hbase

通过Spark on MaxCompute来访问阿里云的Hbase,需要设置网络安全组、Hbase的白名单和配置Spark的参数

2719 0
|
机器学习/深度学习 消息中间件 人工智能
|

这场大数据+AI Meetup,一次性安排了大数据当下热门话题

如何选择合适自己业务的大数据计算引擎?数据湖、数据仓库、HSAP究竟能解决什么问题?机器学习平台那么多,好用的有哪些?这场大数据+AI Meetup将会一一为您解答

1685 0
|
存储 资源调度 分布式计算
|

【科学脱口秀】EB级计算平台调度系统 “愚公” : 实现跨地域的数据和计算调度

大数据平台的数据与计算分布在多个数据中心的不同集群,每个集群的存储和计算能力有限,受地域影响,集群间的网络带宽和延迟也各有差异。如何平衡各集群的存储和计算利用率,降低带宽成本,是亟待解决的一大难题。

1519 0
|
存储 资源调度 分布式计算
|

【科学脱口秀】EB级计算平台调度系统 “愚公” : 实现跨地域的数据和计算调度

大数据平台的数据与计算分布在多个数据中心的不同集群,每个集群的存储和计算能力有限,受地域影响,集群间的网络带宽和延迟也各有差异。如何平衡各集群的存储和计算利用率,降低带宽成本,是亟待解决的一大难题。

2764 0
|
存储 SQL 关系型数据库
|

数据仓库、数据湖崛起后,下一个应该是什么?

数据仓库,数据湖,包括Flink社区提的流批一体,它们到底能解决什么问题?今天将由阿里云研究员从解决业务问题出发,将问题抽丝剥茧,从技术维度娓娓道来:为什么你需要数据湖或者数据仓库解决方案?它的核心难点与核心问题在哪?如果想稳定落地,系统设计该怎么做?

17723 0
|
资源调度 分布式计算 大数据
|

面向大数据与云计算调度挑战的阿里经济体核心调度系统—Fuxi 2.0全揭秘

随阿里经济体和阿里云丰富的业务需求(尤其是双十一)和磨练,伏羲的内涵不断扩大,从单一的资源调度器(对标开源系统的YARN)扩展成大数据的核心调度服务,覆盖数据调度(Data Placement)、资源调度(Resouce Management)、计算调度(Application Manager)、和本地微(自治)调度(即正文中的单机调度)等多个领域,并在每一个细分领域致力于打造超越业界主流的差异化能力。

5041 1
|
分布式计算 DataWorks 数据可视化
|

交互式分析(Hologres)2020年4月刊

交互式分析(Hologres)2020年4月刊将会为您带来4月有关Hologres的产品、技术最新动态

1172 0
|
SQL 分布式计算 资源调度
|

EB级计算平台调度系统伏羲DAG 2.0:构建更动态更灵活的分布式计算生态

伏羲(Fuxi)是十年前创立飞天平台时的三大服务之一(分布式存储 Pangu,分布式计算 MaxCompute(内部代号ODPS),分布式调度 Fuxi),过去十年来,伏羲在技术能力上每年都有新的进展和突破,2013年5K,2015年Sortbenchmark世界冠军,2017年超大规模离在/在离线混部能力,2019年的 Yugong 发布并且论文被VLDB2019接受等。

2924 0
|
SQL 分布式计算 资源调度
|

EB级计算平台调度系统伏羲 DAG 2.0: 构建更动态更灵活的分布式计算生态

伏羲(Fuxi)是十年前创立飞天平台时的三大服务之一(分布式存储 Pangu,分布式计算 MaxCompute(内部代号ODPS),分布式调度 Fuxi),过去十年来,伏羲在技术能力上每年都有新的进展和突破,2013年5K,2015年Sortbenchmark世界冠军,2017年超大规模离在/在离线混部能力,2019年的 Yugong 发布并且论文被VLDB2019接受等。

3311 0
|
SQL 存储 分布式计算
|

阿里云 MaxCompute 2020-4 月刊

4月MaxCompute审计日志发布,可通过历史事件及明细查询、实时行为事件分析,满足您实时审计、问题回溯分析等需求。同时,MaxCompute在支持实时消费监控告警的基础上新发布支持对按量付费单个SQL作业的消费进行控制,帮您更好的监控消费。更多4月的新功能与新解决方案,欢迎阅读4月刊。

1382 0
|
存储 SQL 分布式计算
|

MaxCompute在阿里妈妈数据字化营销解决方案上的典型应用

首先介绍了广告数据流,分析了MaxCompute 是如何解决广告的问题;然后通过阿里妈妈内部的应用经典场景来介绍其如何使用MaxCompute;最后介绍了MaxCompute提供的高级配套能力以及在计算和存储方面的优化。

2675 0
|
消息中间件 SQL 分布式计算
|

基于MaxCompute构建Noxmobi全球化精准营销系统

大数据计算服务(MaxCompute,原名ODPS)是一种快速、完全托管的TB/PB级数据仓库解决方案。MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型,能够更快速的解决用户海量数据计算问题,有效降低企业成本,并保障数据安全。在本文中北京多点在线高级架构师杨洋分享了基于MaxCompute构建Noxmobi全球化精准营销系统。

2671 0
|
SQL 机器学习/深度学习 分布式计算
|

发光的二次元——克拉克拉上云实践

MaxCompute提供完善的数据导入方案以及多种经典的分布式计算模型,可快速解决克拉克拉所面临的海量数据的计算问题,有效降低企业成本并保障数据安全。对于使用方的我们不必关心分布式计算和维护细节便可轻松完成大数据分析,最终我们采用阿里云MaxCompute方案进行数据上云。

3268 0
|
机器学习/深度学习 分布式计算 搜索推荐
|

基于MaxCompute搭建社交好友推荐系统

本次由阿里云驻云科技资深架构师翟永东带来了“基于 MaxCompute 搭建社交好友推荐系统”为主题的分享,主要对大数据在好友推荐系统中的应用、好友推荐系统的分析模型、好友推荐系统在阿里云上的实现方式和 MaxCompute 技术进行了精彩的介绍。

3336 0
|
存储 分布式计算 运维
|

交易数据清算从8小时缩至1.5小时,飞天大数据平台MaxCompute解决余额宝算力难题

MaxCompute 对于海量数据的存储、运维、计算能力强大且安全稳定,MaxCompute 服务将原本需要清算 8 小时的用户交易数据缩短至清算 1 个半小时,同时减少了本地服务器部署压力,在显著提升我们工作效率的同时减少了大量开发成本和人力成本,使我们能更专注于业务发展,为用户提供高品质、高价值的金融服务。

2837 0
|
存储 分布式计算 运维
|

塑云科技:性能突破,基于KafKa+OTS+MaxCompute 完成了一次物联网系统技术重构

创业团队,专注于氢能燃料电池生态链的运营支撑,当前主要的业务组成为新能源车整车实时运营监控分析,加氢站实时运营监控分析,车辆安全运营支撑。

2510 0
|
SQL 分布式计算 运维
|

MaxCompute 助力衣二三构建智能化运营工具

本文由衣二三CTO程异丁为大家讲解了如何基于MaxCompute构建智能化运营工具。 衣二三作为亚洲最大的共享时装平台,MaxCompute是如何帮助它解决数据提取速度慢、数据口径差异等问题呢?程异丁通过衣二三数据体系架构,从用户运营应用、商品运营应用以及算法推荐系统三方面给大家剖析了MaxCompute是如何助力衣二三构建智能化运营工具的。

2114 0
|
数据采集 存储 SQL
|

基于实时计算(flink)打造舆情分析平台——新华智云

新华智云是一家致力于通过大数据技术驱动媒体变革的公司,数芯是新华智云推出的实时舆情分析平台,旨在满足用户一系列舆情分析需求。包括:对事件、新闻、媒体、人物、地域、机构、行业,甚至关键词、热门话题等的抓取、识别、聚合、热度分析以及可视化展示等。

3691 0
|
存储 分布式计算 自然语言处理
|

基于MaxCompute的媒体大数据开放平台建设

随着自媒体的发展,传统媒体面临着巨大的压力和挑战,新华智云运用大数据和人工智能技术,致力于为媒体行业赋能。通过媒体大数据开放平台,将媒体行业全网数据汇总起来,借助平台数据处理能力和算法能力,将有价值数据内容和能力开放给用户。本文主要从新华智云数芯平台,媒体行业数据特征,批流处理数据架构,以及通用的媒体大数据平台能力等几个方面介绍了如何基于MaxCompute做媒体大数据开放平台建设。

2458 0
|
存储 分布式计算 搜索推荐
|

阿里巴巴飞天大数据平台智能推荐AIRec最新特性

本文主要分享: 一、智能推荐(AIRec)简介 二、核心功能介绍 三、案例及场景

1674 0
|
弹性计算 分布式计算 资源调度
|

阿里巴巴飞天大数据平台E-MapReduce 最新特性

本次的分享主要围绕以下三个方面: 一、EMR产品概述 二、EMR产品新特性 三、EMR Road Map

2803 0
|
自然语言处理 算法 搜索推荐
|

阿里巴巴飞天大数据平台OpenSearch最新特性

阿里云开放搜索(OpenSearch)是一款结构化数据搜索托管服务,其能够提供简单、高效、稳定、低成本和可扩展的搜索解决方案。OpenSearch以平台服务化的形式,将专业搜索技术简单化、低门槛化和低成本化,让搜索引擎技术不再成为客户的业务瓶颈,以低成本实现产品搜索功能并快速迭代。本文将为大家介绍OpenSearch的最新推出的电商查询语义理解和搜索算法平台两个新功能。

1708 0
|
存储 弹性计算 运维
|

阿里巴巴飞天大数据平台Elasticsearch最新特性

阿里云Elasticsearch提供100%兼容开源Elasticsearch的功能,以及Security、Machine Learning、Graph、APM等商业功能,致力于数据分析、数据搜索等场景服务。与开源社区背后商业公司Elastic战略合作,为客户提供企业级权限管控、安全监控告警、自动报表生成等场景服务。本文中,阿里云产品专家沐泽为大家介绍了阿里云Elasticsearch产品的相关情况。

1634 0
|
SQL 机器学习/深度学习 弹性计算
|

阿里巴巴飞天大数据平台实时计算Flink on Kubernetes最新特性

目前实时计算的产品已经有两种模式,即共享模式和独享模式。这两种模式都是全托管方式,这种托管方式下用户不需要关心整个集群的运维。其次,共享模式和独享模式使用的都是Blink引擎。

1598 0
|
SQL 数据采集 运维
|

阿里巴巴飞天大数据平台智能开发云平台DataWorks最新特性

自2009年DataWorks立项,伴随着阿里巴巴集团登月计划、公共云和专有云的发布,直到2018年V2.0的发布,DataWorks已经走过了十年的历程。本文主要分享了DataWorks商业化增值版本中高级功能,分别介绍了DataWorks基础版,标准版,专业版和企业版中具备的特色功能和每个功能点所适应的场景,帮助用户选择适合的DataWorks版本,更好的解决所面临的问题。

3151 0
|
SQL 分布式计算 监控
|

阿里云 MaxCompute 2020-4 月刊

4月MaxCompute审计日志发布,可通过历史事件及明细查询、实时行为事件分析,满足您实时审计、问题回溯分析等需求。同时,MaxCompute在支持实时消费监控告警的基础上新发布支持对按量付费单个SQL作业的消费进行控制,帮您更好的监控消费。更多4月的新功能与新解决方案,欢迎阅读4月刊。

9597 0
|
分布式计算 DataWorks TensorFlow
|

MaxCompute Mars 完全指南

Mars 能利用并行和分布式技术,加速 Python 数据科学栈,包括 numpy、pandas 和 scikit-learn。同时,也能轻松与 TensorFlow、PyTorch 和 XGBoost 集成。

4867 0
|
分布式计算 API MaxCompute
|

Spark DataFrame 不是真正的 DataFrame

最早的 "DataFrame" ,来源于贝尔实验室开发的 S 语言。R 语言,作为 S 语言的开源版本,于 2000 年发布了第一个稳定版本,并且实现了 dataframe。pandas 于 2009 年被开发,Python 中于是也有了 DataFrame 的概念。

2761 0
|
分布式计算 数据可视化 小程序
|

友盟+联合EB级云数据仓库 MaxCompute 实现友盟域和企业私域数据全面融合

国内领先的第三方全域数据智能服务商友盟+,联合阿里云EB级云数据仓库 MaxCompute 为企业提供面向分析的,实现友盟域数据与企业私域数据全面融合的自助分析服务“U-DOP数据开放”。

1082 0
|
分布式计算 数据可视化 小程序
|

友盟+联合EB级云数据仓库 MaxCompute 实现友盟域和企业私域数据全面融合

国内领先的第三方全域数据智能服务商友盟+,联合阿里云EB级云数据仓库 MaxCompute 为企业提供面向分析的,实现友盟域数据与企业私域数据全面融合的自助分析服务“U-DOP数据开放”。

4874 0
|
机器学习/深度学习 分布式计算 并行计算
|

当 Mars 遇上 RAPIDS:用 GPU 以并行的方式加速数据科学

在数据科学世界,Python 是一个不可忽视的存在,且有愈演愈烈之势。而其中主要的使用工具,包括 Numpy、Pandas 和 Scikit-learn 等。 Mars 在 MaxCompute 团队内部诞生,它的主要目标就是让 Numpy、pandas 和 scikit-learn 等数据科学的库能够并行和分布式执行,支持通过 RAPIDS 平台用 GPU 加速数据科学。

1269 0
|
搜索推荐 API vr&ar
|

Mars 开源月报(2020.3)

本月,Mars 发布了 0.4.0b1 ,0.4.0b2 和 0.3.2 以及 0.3.3,点击链接查看详细的 Release Notes。本月两次发布版本是特殊情况,0.4.0b2 修复了 0.4.0b1 中比较紧急的问题。

2441 0
|
并行计算 算法 搜索推荐
|

并行正则采样排序算法及在 Mars 中的应用

相信大家对排序算法都非常熟悉了,快速排序、堆排序、归并排序等等。如果我们想在一个很大的数据集上进行排序,能利用上多核,甚至是分布式集群,有什么办法么? 本文就介绍一种并行排序算法:并行正则采样排序算法(Parallel Sorting by Regular Sampling),简称 PSRS 算法。

2266 0
|
机器学习/深度学习 分布式计算 并行计算
|

当 Mars 遇上 RAPIDS:用 GPU 以并行的方式加速数据科学

在数据科学世界,Python 是一个不可忽视的存在,且有愈演愈烈之势。而其中主要的使用工具,包括 Numpy、Pandas 和 Scikit-learn 等。 Mars 在 MaxCompute 团队内部诞生,它的主要目标就是让 Numpy、pandas 和 scikit-learn 等数据科学的库能够并行和分布式执行,支持通过 RAPIDS 平台用 GPU 加速数据科学。

2614 0
|
弹性计算 分布式计算 关系型数据库
|

阿里云 MaxCompute 2020-3 月刊

MaxCompute3月新发功能,新增文档,精彩直播回放,尽在 MaxCompute 3月刊。

5133 0
|
SQL 分布式计算 Java
|

MaxCompute问答整理之2020-03月

飞天大数据平台计算引擎MaxCompute成为全球首个TPCx-BB认证的公共云产品,是除Hive、Spark以外TPCx-BB第三个标准支持的大数据引擎。

1495 0
|
SQL 存储 人工智能
|

在DataWorks标准模式下统计个人账号使用资源情况

在使用MaxCompute的时候通常情况下,用户会通过Information Schema的task_history视图表来分析具体某个账号执行的SQL任务情况,来做到SQL成本分摊或SQL的时间成本优化。但大多数用户通过DataWorks标准模式下使用MaxCompute,这样在MaxCompute提供的元数据视图信息中将记录所有的生产作业执行账号为同一个主账号,只有小部分的开发作业执行账号为个人RAM子账号。本文主要介绍如何在DataWorks标准模式下统计个人账号使用资源情况。

2123 0
|
SQL 分布式计算 DataWorks
|

调度参数在MaxCompute的使用

本文主要讲解如何测试DataWorks调度参数在MaxCompute上使用

5348 0
|
存储 分布式计算 运维
|

MaxCompute管家详解--管家助力,轻松玩转MaxCompute

由于单台服务器的处理能力有限,海量数据的分析需要分布式的计算模型,然而分布式的计算模型对数据分析人员要求较高且不易维护。MaxCompute(原ODPS)是一项大数据计算服务,它能提供快速、完全托管的PB级数据仓库解决方案,使用户可以经济并高效的分析处理海量数据,而MaxCompute管家可以帮助用户更好地进行管理和维护。

1324 0
|
SQL 存储 分布式计算
|

MaxCompute Information Schema功能详解

阿里云的技术专家为大家带来MaxCompute新功能Information Schema的详细介绍。内容包括Information Schema的简介,安装,使用场景,以及对此新功能的使用建议。

2655 1
|
弹性计算 分布式计算 关系型数据库
|

Mysql5.7使用DTS增量同步数据到MaxCompute

本文介绍了使用适应增量同步Mysql5.7数据同步到MaxCompute同步方式,主要过程为设置mysql5.7的binlog,以及使用DTS同步Mysql同步所有数据之前的全量数据操作,以及增量数据同步的配置,以及最后整合最后数据之前的全部数据。

1467 0
我要发布