大数据&AI产品月刊【2022年3月】

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 大数据&AI产品技术月刊(2022年3月),涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据&AI方面最新动态。

一、本月产品功能发布

【新版本】云原生大数据计算服务 MaxCompute - 兼容开源 Spark 的计算服务全新支持 3.1 版本

MaxCompute 兼容开源 Spark 的计算服务继1.6、2.3、2.4 版本之后,全新支持Spark 3.1 版本

 

【新功能】机器学习 PAI-Blade 新增支持Tensorflow 2.7版本

Blade 新增支持Tensorflow 2.7版本,目前已支持 1.15、2.4、2.7 三个版本

 

【新地域】检索分析服务 Elasticsearch版 - 在成都、广州区域上线7.10/7.16版本

 

阿里云Elasticsearch上线广州、成都区域,支持7.10及7.16全新版本,基于全新云原生ACK架构实现运管提效,集群创建仅需5min,您可在控制台及购买页按需开通

 

【新功能】云原生大数据计算服务 MaxCompute - 支持压缩TEXTFILE 格式文件的 Skip header/ footer

MaxCompute支持Gzip,bzip2,LZO压缩TEXTFILE 格式文件的 Skip header/ footer

 

【新功能】云原生大数据计算服务 MaxCompute - 增强物化视图自动改写能力

物化视图新增outer join和Union/Union All的自动改写能力,提高数据计算速度,减省查询时间,提高用户体验

 

【新功能】云原生大数据计算服务 MaxCompute - 增强TRIM/LTRIM/RTRIM函数能力

MaxCompute支持用TRIM/LTRIM/RTRIM函数去除字符串左端,右端或者两端的指定字符功能

 

【新功能】机器学习 PAI - EAS新增定时伸缩功能,支持grpc/websocket协议的镜像部署发布

EAS新增定时伸缩功能,支持客户定时对部署的服务进行实例的扩缩容

 

【新功能】实时数仓 Hologres - HoloWeb支持慢Query甘特图分析功能

HoloWeb支持慢Query甘特图分析功能

 

【新功能】实时数仓 Hologres - 管理控制台升级,网络配置支持绑定指定VPC

Hologres管控台升级,网络配置支持绑定指定VPC

 

【新版本】实时计算 Flink版 -新版本发布

新版本聚焦开发运维两方面能力,全方面提升用户体验

 

【新功能】开源大数据平台 E-MapReduce - StarRocks 在新版控制台上线,致力于构建极速统一分析体验

EMR StarRocks 致力于构建极速统一分析体验,满足用户多种数据分析场景,支持多种数据模型,多种导入方式,多种现有系统

 

二、产品快讯

阿里巴巴开源深度学习训练框架EPL 可支持10万亿参数超大模型

EPL是PAI团队一次面向大规模深度学习分布式自动化训练的探索,EPL希望能够简化深度学习模型从单机训练到分布式开发调试的流程。EPL通过对不同并行化策略进行统一抽象、封装,在一套分布式训练框架中支持多种并行策略,并进行显存、计算、通信等全方位优化来提供易用、高效的分布式训练框架。


image.png

 

阿里开源大规模稀疏模型训练/预测引擎DeepRec,助力开发者提升稀疏模型训练性能和效果

DeepRec(PAI-TF)是阿里巴巴集团统一的大规模稀疏模型训练/预测引擎,广泛应用于淘宝、天猫、阿里妈妈、高德、淘特、AliExpress、Lazada等,支持了淘宝搜索、推荐、广告等核心业务,支撑着千亿特征、万亿样本的超大规模稀疏训练。

 

云原生大数据运维平台 SREWorks 正式开源,助力用户“数智”思想做好高效运维

阿里巴巴云原生大数据运维平台 SREWorks,沉淀了团队近10年经过内部业务锤炼的 SRE 工程实践,今天正式对外开源,秉承“数据化、智能化”运维思想,帮助运维行业更多的从业者采用“数智”思想做好高效运维。

 

 

三、产品学习指南

 

【产品运维】对接Flink常见问题诊断

Hologres对接Flink/Blink时的常见问题以及对应的诊断方法。

 

【产品运维】监控告警常见问题

使用Hologres时常见的监控告警相关问题,以帮助用户能更好的使用Hologres。

 

【最佳实践】Fixed Plan加速SQL执行

在Hologres中如何通过fixed plan加速SQL运行。

 

【最佳实践】基于Confluent+Flink的实时数据分析最佳实践

在实际业务使用中,需要实时做一些数据分析,包括实时PV和UV展示,实时销售数据,实时店铺UV以及实时推荐系统等,基于此类需求,Confluent+实时计算Flink版是一个高效的方案。

 


 

了解更多阿里云大数据产品:https://www.aliyun.com/product/bigdata/apsarabigdata

了解更多阿里云AI产品:https://ai.aliyun.com

了解大数据&AI开源项目:https://www.aliyun.com/activity/bigdata/opensource_bigdata__ai

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
5天前
|
数据采集 人工智能 分布式计算
探索 MaxCompute MaxFrame:AI 数据预处理的高效之选
探索 MaxCompute MaxFrame:AI 数据预处理的高效之选
|
8天前
|
数据采集 分布式计算 大数据
MaxCompute MaxFrame 产品评测报告
MaxCompute MaxFrame是阿里云自研的分布式计算框架,专为Python开发者设计。它支持Python接口,充分利用MaxCompute的大数据资源,提升大规模数据分析效率。本文分享了MaxFrame在分布式Pandas处理和大语言模型数据预处理中的最佳实践,展示了其在数据清洗、特征工程等方面的强大能力,并提出了改进建议。
36 13
|
8天前
|
机器学习/深度学习 分布式计算 数据处理
MaxCompute MaxFrame 产品评测报告
MaxCompute MaxFrame 产品评测报告
20 4
|
11天前
|
SQL 分布式计算 DataWorks
DataWorks产品测评|基于DataWorks和MaxCompute产品组合实现用户画像分析
本文介绍了如何使用DataWorks和MaxCompute产品组合实现用户画像分析。首先,通过阿里云官网开通DataWorks服务并创建资源组,接着创建MaxCompute项目和数据源。随后,利用DataWorks的数据集成和数据开发模块,将业务数据同步至MaxCompute,并通过ODPS SQL完成用户画像的数据加工,最终将结果写入`ads_user_info_1d`表。文章详细记录了每一步的操作过程,包括任务开发、运行、运维操作和资源释放,帮助读者顺利完成用户画像分析。此外,还指出了文档中的一些不一致之处,并提供了相应的解决方法。
|
22天前
|
机器学习/深度学习 人工智能 运维
智能化运维:AI与大数据在IT运维中的应用探索####
本文旨在探讨人工智能(AI)与大数据分析技术如何革新传统IT运维模式,提升运维效率与服务质量。通过具体案例分析,揭示AI算法在故障预测、异常检测及自动化修复等方面的实际应用成效,同时阐述大数据如何助力实现精准运维管理,降低运营成本,提升用户体验。文章还将简要讨论实施智能化运维面临的挑战与未来发展趋势,为IT管理者提供决策参考。 ####
|
20天前
|
人工智能 分布式计算 DataWorks
大数据& AI 产品月刊【2024年11月】
大数据& AI 产品技术月刊【2024年11月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
7天前
|
分布式计算 DataWorks 搜索推荐
DataWorks产品评测:大数据开发治理平台的最佳实践与体验
DataWorks是阿里云推出的一款大数据开发治理平台,集成了多种大数据引擎,支持数据集成、开发、分析和任务调度。本文通过用户画像分析的最佳实践,评测了DataWorks的功能和使用体验,并提出了优化建议。通过实践,DataWorks在数据整合、清洗及可视化方面表现出色,适合企业高效管理和分析数据。
54 0
|
22天前
|
人工智能 Kubernetes Cloud Native
荣获2024年AI Cloud Native典型案例,阿里云容器产品技术能力获认可
2024全球数字经济大会云·AI·计算创新发展大会,阿里云容器服务团队携手客户,荣获“2024年AI Cloud Native典型案例”。
|
人工智能 大数据 Apache
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载
2020年9月18日下午13:00云栖大会正式发布 《大数据&AI的16种可能,2020阿里云客户最佳实践合集》
73012 4
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载
|
人工智能 大数据 云栖大会
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载
2020年9月18日下午13:00云栖大会正式发布 《大数据&AI的16种可能,2020阿里云客户最佳实践合集》
3505 0
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载

相关产品

  • 云原生大数据计算服务 MaxCompute