大数据&AI产品月刊【2023年5月】

简介: 大数据&AI产品技术月刊(2023年5月),涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据&AI方面最新动态。

一、产品功能发布


【云原生大数据计算服务 MaxCompute】新功能 - 支持更改表结构功能正式发布    

支持用户修改表结构,包括:新增复杂列,删除列,更改列顺序以及更改列数据类型。


【云原生大数据计算服务 MaxCompute】新功能 - 包年包月二级配额(Quota)调度策略管理功能发布    

MaxCompute支持用户查看与设置包年包月二级配额(Quota)的调度策略,以实现资源的合理分配。


【云原生大数据计算服务 MaxCompute】新功能 - 支持PIVOT和UNPIVOT关键字    

MaxCompute支持PIVOT和UNPIVOT关键字,实现行列互转功能,简化用户SQL代码。


【云原生大数据计算服务 MaxCompute】新功能 - 支持通过TABLESAMPLE对表数据进行采样    

MaxCompute支持通过TABLESAMPLE对表数据进行采样,方便用户对表数据按不通采样方式进行采样。


【云原生大数据计算服务 MaxCompute】新功能 - 支持使用QUALIFY过滤窗口函数的结果    

MaxCompute支持使用QUALIFY语法根据您指定的过滤条件过滤窗口函数的结果,简化用户SQL代码。


【云原生大数据计算服务 MaxCompute】新功能 - 支持将数据带表头写入OSS的CSV文件    

MaxCompute支持将数据写入OSS的CSV文件中时,指定第一行为表头名称。


【云原生大数据计算服务 MaxCompute】新功能 - 支持TableStore外表指定PutRow方式写入    

MaxCompute支持Tablestore外表新增PutRow写入方式。


【云原生大数据计算服务 MaxCompute】新功能 - 新增多个内建函数    

MaxCompute新增4个数学函数,3个时间日期相关函数和1个字符串函数,使用内建函数简化用户SQL代码。


【云原生大数据计算服务 MaxCompute】新功能 - 物化视图支持定时刷新数据    

物化视图支持多种定时方式刷新数据,让物化视图能保持更新鲜的数据供用户使用。


【云原生大数据计算服务 MaxCompute】新功能 - SQL提供内建加密函数和解密函数

MaxCompute SQL提供内建加密函数和解密函数,支持用户手工对表的列进行加密或者解密操作。


【大数据开发治理平台 DataWorks】新功能 - 大数据公共数据集上线    

基于大数据公共数据集(淘宝、飞猪、阿里音乐、Github、TPC等),快速完成TB级数据分析。


【大数据开发治理平台 DataWorks】新地域/可用区  - 智能数据建模新增马来西亚与印度尼西亚Region    

智能数据建模新增马来西亚与印度尼西亚Region,智能数据建模沉淀阿里巴巴数据中台建模方法论,以维度建模为基础,从数仓规划、数据标准、维度建模、数据指标四个方面,以业务视角对业务的数据进行诠释,让数据仓库的建设向规范化,可持续发展方向演进。


【大数据开发治理平台 DataWorks】新功能 - 数据分析支持查询结果百万级数据下载

数据分析SQL查询下载条数默认1万条,按照不同的DataWorks增值版本可以下载最大百万级数据。


【大数据开发治理平台 DataWorks】新功能 - 数据分析结果直接保存为MaxCompute表

数据分析结果无需通过代码创建表,可以直接保存为MaxCompute表,进行后续查询或联合分析。


【检索分析服务Elasticsearch版】新版本/新规格 -开发者规格发布,成本下降60%

阿里云检索分析服务Elasticsearch版发布开发者规格,基于开源8.5版本,对向量搜索、索引压缩和查询优化等场景进行了大量增强,同时成本下降60%,大幅降低用户使用门槛和测试成本,欢迎广大开发者购买体验!


【开源大数据平台 E-MapReduce】新功能 - Serverless StarRocks商业化发布    

2023年06月01日起,,EMR Serverless StarRocks在各地域上线。


【开源大数据平台 E-MapReduce】新功能 - 支持倚天云服务器(邀测中)    

阿里云E-MapReduce(简称EMR)支持通过倚天云服务器构建开源大数据集群。


【开源大数据平台 E-MapReduce】新功能 - 查看集群日报与分析    

EMR Doctor 新增YARN引擎分析,多维展示集群资源分配和使用情况,辅助提升资源利用率;增加集群计算分析和存储分析等。


【实时计算 Flink版】新版本/新规格 - 首发Apache Paimon及Flink Machine Learning预览型功能|全网分步灰度发布平台新版本    

提供Apache Paimon 及Flink Machine Learning预览型功能,同时平台优化改版,全面提升用户使用体验。


【智能推荐 AIRec】新功能 - 新增推荐置顶与坑位运营功能    

置顶和坑位策略支持干预特定位置的推荐结果,帮助运营人员将选出的物品强制曝光。


二、产品活动


阿里云大数据计算&机器学习产品免费试用上线!

阿里云大数据计算&机器学习推出免费试用活动,其中包含Maxcompute、Hologres、实时计算Flink版、机器学习PAI等多款热门产品,点击了解详细试用规则,一键参与试用。


三、产品快讯


阿里巴巴宣布加入 Linux Foundation AI&Data 基金会,捐赠首个开源项目 DeepRec

近日,阿里巴巴宣布加入 Linux Foundation AI&Data 基金会,持续加大对 AI 和大数据技术的投入以促进相关开源建设。阿里巴巴是 Linux 的活跃开发者,此前已经为 Linux 内核提交了 290 多个 Patch。除了 Linux 之外,阿里巴巴在 MySQL、JVM、Web 服务器等知名项目中均有杰出贡献,也是开源组织 WebScaleSQL 的 5 大成员之一。此次,在加入 Linux Foundation AI&Data 基金会的同时,阿里巴巴也积极地回馈社区,将面向推荐场景的高性能深度学习框架 DeepRec 捐赠给 Linux Foundation AI&Data 基金会托管。


阿里云智能数据湖入选第六届数字中国建设峰会“十大硬核科技”    

近日,第六届数字中国建设峰会在福建福州举办,阿里云首创并推动的智能数据湖解决方案因“引领业界技术上创新”入选本届峰会的“十大硬核科技”,这也是历届峰会中首次有数据湖产品入选。智能数据湖是阿里云在大数据和 AI 融合的时代背景下推出,底层融合存储和计算全新技术体系,业务侧融合多元计算,对接数据科学计算引擎。支撑在线教育、互联网广告、新媒体、网络游戏等近万家行业用户在快速发展过程中的业务需求,为企业数字化转型提供源动力。

image.png


MaxCompute 发布“物化视图智能推荐”,CU 算力节省 14%    

近日,主题为“智在江苏,为创新提速”的 2023 阿里云峰会在江苏省常州市召开。阿里云 MaxCompute 在飞天发布时刻推出了“物化视图智能推荐”功能,这一功能的发布将节省 CU 算力 14%,进一步提升了 MaxCompute 在大数据计算能力方面的领先地位。


机器学习平台 PAI 支持抢占型实例,模型服务最高降本 90%    

在 AI 开发及服务不断追求效率的背景下,阿里云机器学习平台 PAI 宣布支持抢占型实例(Spot Instance)。在模型推理环节,用户可以通过 PAI-EAS 模型在线服务平台灵活选择抢占型实例来运行推理时延相对不敏感的任务,进而节省服务成本,同等机型的抢占型实例与按量付费实例相比,最高可实现 90% 的成本优化。


PAI-Diffusion 中文模型全面升级,海量高清艺术大图一键生成    

阿里云机器学习 PAI 团队之前开源了 PAI-Diffusion 系列模型,包括一系列通用场景和特定场景的文图生成模型。但由于 Diffusion 模型推理速度比较慢,而且需要耗费较多的硬件资源,我们结合由 PAI 自主研发的编译优化工具 PAI-Blade,支持对 PAI-Diffusion 模型的端到端的导出和推理加速,在 A10 机器下做到了 1s 内的中文大图生成。在本次的工作中,我们对之前的 PAI-Diffusion 中文模型进行大幅升级,详细介绍 PAI-Diffusion 中文模型的新功能和新特性。


四、产品学习指南


【最佳实践】使用 PAI-Blade 优化 Stable Diffusion 推理流程(一)    

AIGC 是人工智能计算领域里发展迅速的重要业务。Stable Diffusion 是其中最热门的开源模型,受到广泛关注。然而,随着应用场景不断扩大,Stable Diffusion 所面临的推理时延和计算成本问题也越来越突出。本文以社区流行的 "runwayml/stable-diffusion-v1-5" 的 Text2Img pipeline 为例,详细介绍 PAI-Blade 在各类使用场景下的推理优化。


【最佳实践】使用 PAI-Blade 优化 Stable Diffusion 推理流程(二)    

本篇继续介绍使用 PAI-Blade 优化 LoRA 和 Controlnet 的推理流程。同时,我们将介绍 Stable-Diffusion-webui 中集成 PAI-Blade 优化的方法。PAI-Blade 在 Stable Diffusion 模型上的优化经验,目前已经支持了 Diffusers 和 Stable-DIffusion-webui 两种主流推理方式。


【客户案例】水滴筹基于阿里云 EMR StarRocks 实战分享    

水滴创立于 2016 年,致力于为用户提供健康保障解决方案。针对如组件维护困难,数据冗余存储,数据收口和出口不统一等情况,基于几个组件的使用和综合考虑,水滴最后决定将 StarRocks 作为最终的 OLAP 引擎,用于解决各业务线对数据高效实时数据查询和数据统计分析的需求。


【客户案例】HashTable 在蚂蚁转化归因中的极致运用    

蚂蚁的转化归因在初期运行两个多小时的情况下,进行了一系列优化,其中建立 hash cluster 表及强制 hash 关联及 Shuffle 的手动干预进行 remove 操作此部分优化占了较大比重。本文则主要讲述 hash cluster 表的一些运用。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
3月前
|
存储 人工智能 安全
拔俗AI临床大数据科研分析平台:让医学研究更智能、更高效
阿里云原生AI临床大数据科研平台,打通异构医疗数据壁垒,实现智能治理、可视化分析与多中心安全协作,助力医院科研提速增效,推动精准医疗发展。
|
3月前
|
人工智能 Cloud Native 算法
拔俗云原生 AI 临床大数据平台:赋能医学科研的开发者实践
AI临床大数据科研平台依托阿里云、腾讯云,打通医疗数据孤岛,提供从数据治理到模型落地的全链路支持。通过联邦学习、弹性算力与安全合规技术,实现跨机构协作与高效训练,助力开发者提升科研效率,推动医学AI创新落地。(238字)
|
3月前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
|
人工智能 物联网 语音技术
云知声推多款医疗 AI 产品,病历生成与质控产品今年将站 C 位
云知声的战略是把在垂直行业积累的AI技能放在云端,通过芯片去赋能设备端的边缘计算能力,进而把云端的技术向设备端进行输出。
2689 0
|
3月前
|
消息中间件 人工智能 安全
云原生进化论:加速构建 AI 应用
本文将和大家分享过去一年在支持企业构建 AI 应用过程的一些实践和思考。
776 46
|
4月前
|
人工智能 安全 中间件
阿里云 AI 中间件重磅发布,打通 AI 应用落地“最后一公里”
9 月 26 日,2025 云栖大会 AI 中间件:AI 时代的中间件技术演进与创新实践论坛上,阿里云智能集团资深技术专家林清山发表主题演讲《未来已来:下一代 AI 中间件重磅发布,解锁 AI 应用架构新范式》,重磅发布阿里云 AI 中间件,提供面向分布式多 Agent 架构的基座,包括:AgentScope-Java(兼容 Spring AI Alibaba 生态),AI MQ(基于Apache RocketMQ 的 AI 能力升级),AI 网关 Higress,AI 注册与配置中心 Nacos,以及覆盖模型与算力的 AI 可观测体系。
1048 51
|
3月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
510 30
|
3月前
|
设计模式 人工智能 自然语言处理
3个月圈粉百万,这个AI应用在海外火了
不知道大家还记不记得,我之前推荐过一个叫 Agnes 的 AI 应用,也是当时在 WAIC 了解到的。
511 1
|
3月前
|
消息中间件 人工智能 安全
构建企业级 AI 应用:为什么我们需要 AI 中间件?
阿里云发布AI中间件,涵盖AgentScope-Java、AI MQ、Higress、Nacos及可观测体系,全面开源核心技术,助力企业构建分布式多Agent架构,推动AI原生应用规模化落地。
376 0
构建企业级 AI 应用:为什么我们需要 AI 中间件?