大数据&AI产品12月刊

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,5000CU*H 3个月
交互式建模 PAI-DSW,每月250计算时 3个月
简介: 大数据&AI产品技术月刊(2022年12月),涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据&AI方面最新动态。

一、产品功能发布

【云原生大数据计算服务 MaxCompute 】新功能 - 优化增强字符串函数和聚合函数能力并新增字符串函数    

优化了5个存量内建函数,其中3个字符串函数补齐了兼容hive行为,2个窗口函数增强了函数能力;同时新增了一个字符串转换新函数。


【云原生大数据计算服务 MaxCompute 】新功能 - Update语法支持From子句  Update数据更新操作时可以直接使用from子句进行更新数据。


【云原生大数据计算服务 MaxCompute 】新功能 - 增加SQL Window关键字    

新增window关键字,用户可以用window关键字定义窗口,用户只要对窗口定义一次,进行重复使用。


【大数据开发治理平台 DataWorks 】新功能 - 全新升级数据分析带来更加便捷的SQL查询体验    

数据分析全新改版,支持更好地SQL文件管理与查询。


【大数据开发治理平台 DataWorks 】新功能 - 数据服务支持面向开发和生产环境数据源封装API    

在数据服务中创建API时,支持用户自行选择数据源的环境类型(开发环境或生产环境)。


【大数据开发治理平台 DataWorks 】新功能 - 数据地图新增数据专辑功能    

数据专辑可以帮助用户按照业务视角来进行数据表的分类、分级组织和管理。


【实时数仓 Hologres 】体验优化 - 新增UNIQ精确去重函数    

新增UNIQ精确去重函数,显著提高去重计算效率,优化多Count Distinct场景,节省内存消耗。


【实时数仓 Hologres 】新功能 - 共享集群支持数据湖加速    

2022年12月26日起,Hologres共享集群正式发布1.3版本,本次升级支持OSS数据湖加速和更多MC数仓能力加速。


【实时数仓 Hologres 】新功能 - Hologres对接Flink新功能发布    

Hologres对接Flink新功能发布。


【检索分析服务 Elasticsearch版】新版本/新规格 - Serverless服务公测版发布|公测期免费使用    

全方位提供简单易用、弹性灵活、开箱即用的Serverless服务化体验,资源按需取用总成本可降70%。


【检索分析服务 Elasticsearch版】新地域/可用区 - 7.16版本新增支持区域华东1(杭州)和华北2(北京)    

阿里云Elasticsearch新增7.16版本支持区域华东1(杭州)和华北2(北京)),可以在控制台上按需求开通集群。支持TimeStream时序增强引擎,并基于全新云原生ACK架构实现集群创建及运管提效,创建最快仅需5min,更多区域陆续发布中。


【开源大数据平台 E-MapReduce 】新功能 - EMR Doctor实时风险检测    

EMR Doctor新增 Yarn 风险项检测和运行中任务风险项检测。


【开源大数据平台 E-MapReduce 】新功能 - EMR Doctor集群日报    

EMR Doctor集群日报支持OSS存储分析和以队列维度对作业进行分析。


【实时计算 Flink版】新版本/新规格 - 全托管VVR 6.0.4版本发布|提供云上Apache Flink 1.15.2能力    

丰富企业级Connector相关功能,增强动态CEP能力,全面优化风控场景易用性。


【机器学习 PAI 】新功能 - EAS机器节点自运维功能发布    

EAS支持用户自行管理资源组中的机器资源,可以对部署在资源组中的机器实例进行管理运维。


【机器学习 PAI 】新功能 - EAS支持倚天710系列计算资源    

EAS推理服务支持倚天710系列计算资源,更高性价比,帮助客户降本增效。


【机器学习 PAI 】新功能 - Designer新增自定义模板功能    

PAI-Designer新增自定义模板功能,助力企业级客户多种角色在AI开发流程中的安全高效合作。


【机器学习 PAI 】新功能 - Designer新增Prophet时序算法、流式PyAlink脚本、向量聚合等算法组件    

PAI-Designer新增Prophet时序算法、流式PyAlink脚本、向量聚合等算法组件。


【智能开放搜索 OpenSearch 】新版本/新规格 - 产品版本发布    

产品将以【行业算法版】、【高性能检索版】、【向量检索版】、【召回引擎版】四个版本提供服务,满足不同搜索场景的业务需求。


【智能开放搜索 OpenSearch 】新功能 - 定制同义词模型发布    

智能开放搜索推出定制召回模型-定制同义词功能,基于预训练行业NLP模型和业务数据,挖掘业务专属同义词,智能提升语义分析、搜索效果。


【智能推荐 AIRec 】新版本/新规格 - 发布行业运营版、算法配置版与冷启动版售卖规格

智能推荐发布3种售卖规格,方便开发者结合企业特点、业务需求高效选择使用版本。

二、产品快讯

阿里云开源大数据平台EMR全面升级,性能最高可提升6倍    

12月27日,阿里云正式发布云原生开源大数据平台EMR 2.0,升级后的开源大数据平台在成本持平的情况下,扩缩容性能最高可提升6倍。阿里云EMR2.0为用户提供了全新的平台、开发、资源形态、分析场景等更优的产品体验,通过EMR Doctor健康检查、全面的服务巡检和事件通知、节点故障补偿等运维能力的升级,预估运维成本可降低20%-30%。


阿里灵杰:与开发者一起推动AI创新落地    

12月22日,阿里云举办 “2022 阿里灵杰Al开发者峰会暨英特尔创新大师杯全球AI极客挑战赛颁奖典礼”,本次峰会面向广大AI开发者解读阿里灵杰AI能力全景和开发者服务体系,并通过丰富的场景化演示,呈现全新的AI开发体验。

image.jpeg


阿里云DataWorks荣获DAMA中国数据治理优秀产品奖

2022年12月3日,2022 DAMA中国数据管理峰会(线上部分)成功举行,汇聚多位世界级数据大咖分享,阿里云DataWorks凭借全链路数据治理产品体系,丰富的行业客户最佳实践案例,获得“DAMA中国数据治理优秀产品奖”。


PAI-Diffusion 模型来了!阿里云机器学习团队带您徜徉中文艺术海洋

PAI-Diffusion系列模型,包括一系列通用场景和特定场景的文图生成模型。这些模型的Pipeline除了包括标准的Latent Diffusion Model,还集成了PAI团队先前提出了中文CLIP跨模态对齐模型,及图像超分模型,使得模型可以生成符合中文文本描述的、各种场景下的高清大图。本简要介绍PAI-Diffusion模型及其体验方式。


全面支持 PyTorch 2.0:BladeDISC 5 月~11 月新功能发布    

BladeDISC上一次更新主要发布了GPU AStitch优化,方法来源于我们发表在ASPLOS 2022上的论文AStitch。这一次,我们发布了0.3.0版本。本次更新中BladeDISC社区全面支持了PyTorch 2.0编译,推进了和Torch-MLIR社区的合作;增加了CPU量化编译和倚天新硬件支持;在编译优化方面BladeDISC社区增加了一系列特性,包括改进了GPU访存密集计算的性能,完成了Shape Constaints IR功能设计和支持。


算法 KECP 被顶会 EMNLP 收录,极少训练数据就能实现机器阅读理解    

近日,阿里云机器学习平台PAI与华东师范大学高明教授团队合作在自然语言处理顶级会议EMNLP2022上发表基于Prompt-Tuning的小样本机器阅读理解算法KECP(Knowledge Enhanced Contrastive Prompt-tuning)。KECP是一种面向机器阅读理解的小样本学习算法,采用Prompt-Tuning作为基础学习范式,在仅需要标注极少训练数据的情况下,在给定文章中抽取满足要求的文本作为答案。


Span 抽取和元学习能碰撞出怎样的新火花,小样本实体识别来告诉你!    

近日,阿里云机器学习平台PAI与华东师范大学高明教授团队、达摩院机器智能技术NLP团队合作在自然语言处理顶级会议EMNLP2022上发表基于Span和元学习的小样本实体识别算法SpanProto。这是一种面向命名实体识别的小样本学习算法,采用两阶段的训练方法,检测文本中最有可能是命名实体的Span,并且准确判断其实体类型,在仅需要标注极少训练数据的情况下,提升预训练语言模型在命名实体识别任务上的精度。


模型精度再被提升,统一跨任务小样本学习算法 UPT 给出解法!    

近日,阿里云机器学习平台PAI与华东师范大学高明教授团队、达摩院机器智能技术NLP团队合作在自然语言处理顶级会议EMNLP2022上发表统一多NLP任务的预训练增强小样本学习算法UPT(Unified Prompt Tuning)。这是一种面向多种NLP任务的小样本学习算法,致力于利用多任务学习和预训练增强技术,在仅需要标注极少训练数据的情况下,提升大规模预训练语言模型在多种场景下的模型精度。

三、产品学习指南

【产品运维】OpenSearch全新版本试用指南    

OpenSearch产品版本全新上线,产品将以【行业算法版】、【高性能检索版】、【向量检索版】、【召回引擎版】四个版本提供服务,满足不同搜索业务场景需求。可根据自身业务需求选择试用体验。


【最佳实践】上云节省 35%计算资源,420 个运维人天:运满满实时计算实践和思考    

满帮集团全心全意帮助司机和货主,助力物流降本增效。使用阿里云 Flink+Hologres 这套架构来基于分钟级或者秒级的实时数仓去做数据,快速高效的赋能给算法和运营业务。包括司机和货主的行为特征、司机行为概率分布、货源行为状态分布、路线货源价格分布等。


【最佳实践】vivo 推荐业务 x DeepRec:全链路优化实践    

vivo人工智能推荐算法团队在深耕业务同时,也在积极探索适用于搜索/广告/推荐大规模性稀疏性算法训练框架。DeepRec提供大量的解决方案帮助vivo用户快速实施GPU推理,便于业务快速构建推荐服务及算法策略高效迭代。


【最佳实践】weidl x DeepRec:热门微博推荐框架性能提升实战    

热门微博是新浪微博的重要功能之一,包含热门流、热点流、频道流、小视频后推荐、视频社区等场景。主要介绍热门微博推荐的整体架构与DeepRec框架性能上的提升,并详细剖析的weidl平台中使用的DeepRec。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
18天前
|
人工智能 Cloud Native 数据管理
媒体声音|重磅升级,阿里云发布首个“Data+AI”驱动的一站式多模数据平台
在2024云栖大会上,阿里云瑶池数据库发布了首个一站式多模数据管理平台DMS:OneMeta+OneOps。该平台由Data+AI驱动,兼容40余种数据源,实现跨云数据库、数据仓库、数据湖的统一数据治理,帮助用户高效提取和分析元数据,提升业务决策效率10倍。DMS已服务超10万企业客户,降低数据管理成本高达90%。
|
14天前
|
存储 人工智能 分布式计算
大数据& AI 产品月刊【2024年10月】
大数据& AI 产品技术月刊【2024年10月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
1月前
|
SQL 存储 人工智能
【产品升级】Dataphin V4.3重大升级:AI“弄潮儿”,数据资产智能化
DataAgent如何助理业务和研发成为业务参谋?如何快速低成本的创建行业数据分类标准?如何管控数据源表的访问权限?如何满足企业安全审计需求?
583 1
【产品升级】Dataphin V4.3重大升级:AI“弄潮儿”,数据资产智能化
|
25天前
|
机器学习/深度学习 人工智能 运维
智能运维:大数据与AI的融合之道###
【10月更文挑战第20天】 运维领域正经历一场静悄悄的变革,大数据与人工智能的深度融合正重塑着传统的运维模式。本文探讨了智能运维如何借助大数据分析和机器学习算法,实现从被动响应到主动预防的转变,提升系统稳定性和效率的同时,降低了运维成本。通过实例解析,揭示智能运维在现代IT架构中的核心价值,为读者提供一份关于未来运维趋势的深刻洞察。 ###
77 10
zdl
|
7天前
|
消息中间件 运维 大数据
大数据实时计算产品的对比测评:实时计算Flink版 VS 自建Flink集群
本文介绍了实时计算Flink版与自建Flink集群的对比,涵盖部署成本、性能表现、易用性和企业级能力等方面。实时计算Flink版作为全托管服务,显著降低了运维成本,提供了强大的集成能力和弹性扩展,特别适合中小型团队和业务波动大的场景。文中还提出了改进建议,并探讨了与其他产品的联动可能性。总结指出,实时计算Flink版在简化运维、降低成本和提升易用性方面表现出色,是大数据实时计算的优选方案。
zdl
31 0
|
1月前
|
消息中间件 人工智能 Cloud Native
|
29天前
|
Oracle 大数据 数据挖掘
企业内训|大数据产品运营实战培训-某电信运营商大数据产品研发中心
本课程是TsingtaoAI专为某电信运营商的大数据产品研发中心的产品支撑组设计,旨在深入探讨大数据在电信运营商领域的应用与运营策略。通过密集的培训,从数据的本质与价值出发,系统解析大数据工具和技术的最新进展,深入剖析行业内外的实践案例。课程涵盖如何理解和评估数据、如何有效运用大数据技术、以及如何在不同业务场景中实现数据的价值转化。
38 0
|
1月前
|
SQL 运维 大数据
大数据实时计算产品的对比测评
在使用多种Flink实时计算产品后,我发现Flink凭借其流批一体的优势,在实时数据处理领域表现出色。它不仅支持复杂的窗口机制与事件时间处理,还具备高效的数据吞吐能力和精准的状态管理,确保数据处理既快又准。此外,Flink提供了多样化的编程接口和运维工具,简化了开发流程,但在界面友好度上还有提升空间。针对企业级应用,Flink展现了高可用性和安全性,不过价格因素可能影响小型企业的采纳决策。未来可进一步优化文档和自动化调优工具,以提升用户体验。
122 0
|
1月前
|
SQL 存储 监控
大数据-161 Apache Kylin 构建Cube 按照日期、区域、产品、渠道 与 Cube 优化
大数据-161 Apache Kylin 构建Cube 按照日期、区域、产品、渠道 与 Cube 优化
50 0
|
8天前
|
机器学习/深度学习 人工智能 自然语言处理
当前AI大模型在软件开发中的创新应用与挑战
2024年,AI大模型在软件开发领域的应用正重塑传统流程,从自动化编码、智能协作到代码审查和测试,显著提升了开发效率和代码质量。然而,技术挑战、伦理安全及模型可解释性等问题仍需解决。未来,AI将继续推动软件开发向更高效、智能化方向发展。