大数据&AI产品月刊【2024年1月】

简介: 大数据&AI产品技术月刊【2024年1月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据&AI方面最新动态。

一、产品功能发布

【人工智能平台 PAI】新功能/规格 - 分布式训练DLC 算力健康检测发布    

支持对训练任务的资源健康度与性能进行检查,提升训练成功率及问题诊断效率。


【云原生大数据计算服务 MaxCompute】新功能/规格 - 计算成本优化功能发布    

计算成本优化功能进一步方便客户优化计算成本和提高资源利用效率。


【云原生大数据计算服务 MaxCompute】新功能/规格 - 支持通过控制台编辑外部网络地址    

支持通过控制台添加或删除项目可用的外部网络地址。


【云原生大数据计算服务 MaxCompute】功能优化 - 控制台资源观测支持修改指标聚合算法    

控制台资源观测支持修改指标聚合算法,方便开发者依据自身需求查看相关指标。


【云原生大数据计算服务 MaxCompute】新地域/新可用区 - 按量付费闲时版新增中国站国际地域及国际站发布    

MaxCompute按量付费闲时版新增开通中国站:中国香港、新加坡、英国(伦敦)、日本(东京)、马来西亚(吉隆坡)、德国(法兰克福)、印度尼西亚(雅加达)、美国(弗吉尼亚)、美国(硅谷)地域,国际站:华东1(杭州)、华东2(上海)、华北2(北京)、华南1(深圳)、中国香港、新加坡、英国(伦敦)、日本(东京)、马来西亚(吉隆坡)、德国(法兰克福)、印度尼西亚(雅加达)、美国(弗吉尼亚)、美国(硅谷)地域。


【大数据开发治理平台 DataWorks】新功能/规格 - 新增适配E-MapReduce Hadoop集群17个    

新增适配E-MapReduce Hadoop集群17个。


【大数据开发治理平台 DataWorks】新功能/规格 - 新增适配StarRocks数据源    

DataWorks全面适配StarRocks数据源。


【大数据开发治理平台 DataWorks】新功能/规格 - 安全中心增加实时风险识别规则

支持管理员将风险识别能力以扩展程序的方式注册至DataWorks。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据开发增加PAI-DLC与Check节点    

数据开发增加PAI-DLC与Check节点。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据治理中心新增SQL效率优化检查项    

帮助用户在研发环节进行事前主动检查和及时优化,避免出现大量计算资源浪费。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据开发与数据分析查表结果支持脱敏展示    

查询数据时,如被识别为敏感数据,平台将会按照脱敏规则展示。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据地图支持展示实时同步链路数据血缘    

新增支持7种常用实时同步链路的数据血缘解析及展示。


【开源大数据平台 E-MapReduce】新功能/规格 - Workflow商业化发布    

2024年1月10日起EMR Workflow正式商业化发布。


【开源大数据平台 E-MapReduce】新功能/规格 - Workflow 新增工作空间管理    

EMR Workflow 新增工作空间管理。


【开源大数据平台 E-MapReduce】新功能/规格 - Workflow 工作流支持提交至集群模板执行    

EMR Workflow 工作流支持提交至集群模板执行。


【开源大数据平台 E-MapReduce】新功能/规格 - 通过DMS连接StarRocks实例

主要介绍如何通过DMS连接StarRocks实例。


【开源大数据平台 E-MapReduce】新功能/规格 - 通过Quick BI连接StarRocks实例如何通过Quick BI连接StarRocks实例。


【智能开放搜索 OpenSearch】新功能/规格 - LLM智能问答版表格问答功能发布    

OpenSearch智能问答版支持表格数据,提供针对表数据的智能问答能力。


【智能开放搜索 OpenSearch】新功能/规格 - LLM智能问答版支持对接MaxCompute数据源    

OpenSearch智能问答版支持MaxCompute数据源快速导入。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版新增电商增强图片转向量模型    

基于电商场景数据训练,适用于电商商品图片的转向量模型,提升向量搜索效果。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版支持单数据节点购买    

购买实例时可以仅选择数据节点,无需购买查询节点,进一步降低起步门槛。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版支持混合检索    

混合搜索的方式能将语义搜索与关键词搜索相结合,获得更好的搜索效果。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版新增多长度中英文文本转向量模型    

新模型支持128、512、1024token长度中英文文本进行向量化处理。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版控制台支持主键查询、图片文本查询、混合查询    

控制台查询测试支持更多查询语法,并提供表单模式查询功能。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版支持图片搜索多主体识别

能够识别同一张图片中的多个主体,并针对某一主体进行进一步搜索。


【智能开放搜索 OpenSearch】价格调整 - 向量检索版新增云盘型节点与2核规格、调整实例租用费    

支持客户选用更多节点规格,提升购买灵活度,降低起购门槛。


二、产品快讯

Mixtral 8X7B MoE模型基于阿里云人工智能平台PAI实践合集    


Mixtral 8x7B大模型是Mixtral AI推出的基于decoder-only架构的稀疏专家混合网络(Mixture-Of-Experts,MOE)开源大语言模型。这一模型具有46.7B的总参数量,对于每个token,路由器网络选择八组专家网络中的两组进行处理,并且将其输出累加组合,在增加模型参数总量的同时,优化了模型推理的成本。本文介绍如何在PAI平台针对Mixtral 8x7B大模型的微调和推理服务的最佳实践,助力AI开发者快速开箱。


流式湖仓增强,Hologres + Flink构建企业级实时数仓    


近日,阿里云实时数仓Hologres研发负责人姜伟华分享Hologres+Flink构建的企业级实时数仓,实现全链路的数据实时计算、实时写入、实时更新、实时查询。同时,随着流式湖仓的兴起,Hologres除了支持Delta、Hudi等通用湖格式,在今年新增了对Paimon的深度集成,不断拓展湖仓一体能力。


Hologres V2.1版本发布,新增计算组实例构建高可用实时数仓    


Hologres是阿里云自研一站式实时数仓,统一数据平台架构,将OLAP查询、即席分析、在线服务、向量计算多个数据应用构建在统一存储之上,实现一份数据,多种计算场景。Hologres V2.1版本发布, 新增弹性计算组实例,解决实时数仓场景下分析性能、资源隔离、高可用、弹性扩缩容等核心问题,同时新增多种用户分析函数与实时湖仓Paimon格式支持,COUNT DISTINCT优化显著提升查询效率。


image.png


三、产品学习指南


【最佳实践】搭建大模型RAG对话系统的最佳实践

大模型RAG对话系统最佳实践,旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术,从而显著提升对话系统的性能,使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践,可以掌握构建一个大模型RAG对话系统的完整开发链路。


【最佳实践】基于Megatron-Core的稀疏大模型训练工具:阿里云MoE大模型最佳实践


阿里云PAI和NVIDIA团队深入合作,基于Megatron-Core MoE框架,解决了MoE大模型训练落地时会遇到的可拓展性、易用性、功能性以及收敛精度等核心问题,在下游任务上取得了很好的模型效果。PAI团队将上述MoE训练框架和技术与阿里云AI平台产品深度整合,使云上大模型用户能方便地进行MoE大模型的训练和部署。


【最佳实践】通义千问Qwen-72B-Chat基于PAI的低代码微调部署实践    


通义千问-72B(Qwen-72B)是阿里云研发的通义千问大模型系列的720亿参数规模模型。Qwen-72B-Chat是在Qwen-72B的基础上,使用对齐机制打造的基于大语言模型的AI助手。本文以 Qwen-72B-Chat 为例,介绍通过PAI平台的快速开始(PAI-QuickStart)部署和微调千问大模型。


【客户案例】基于Hologres+Flink的曹操出行实时数仓建设    


曹操出行创立于2015年,是吉利控股集团布局“新能源汽车共享生态”的战略性投资业务,致力于打造服务口碑最好的出行品牌。针对其业务痛点分析,曹操采用Hologres+Flink构建企业级实时数仓,业务成果分析:曹操出行架构清晰简单、开发效率提高、运维体验提升、成本减少等。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
3月前
|
存储 人工智能 安全
拔俗AI临床大数据科研分析平台:让医学研究更智能、更高效
阿里云原生AI临床大数据科研平台,打通异构医疗数据壁垒,实现智能治理、可视化分析与多中心安全协作,助力医院科研提速增效,推动精准医疗发展。
|
3月前
|
人工智能 Cloud Native 算法
拔俗云原生 AI 临床大数据平台:赋能医学科研的开发者实践
AI临床大数据科研平台依托阿里云、腾讯云,打通医疗数据孤岛,提供从数据治理到模型落地的全链路支持。通过联邦学习、弹性算力与安全合规技术,实现跨机构协作与高效训练,助力开发者提升科研效率,推动医学AI创新落地。(238字)
|
3月前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
|
人工智能 大数据 Apache
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载
2020年9月18日下午13:00云栖大会正式发布 《大数据&AI的16种可能,2020阿里云客户最佳实践合集》
73887 4
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载
|
人工智能 大数据 云栖大会
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载
2020年9月18日下午13:00云栖大会正式发布 《大数据&AI的16种可能,2020阿里云客户最佳实践合集》
3642 0
大数据&AI的16种可能,2020阿里云客户最佳实践合集下载
|
3月前
|
消息中间件 人工智能 安全
云原生进化论:加速构建 AI 应用
本文将和大家分享过去一年在支持企业构建 AI 应用过程的一些实践和思考。
676 44
|
4月前
|
人工智能 安全 中间件
阿里云 AI 中间件重磅发布,打通 AI 应用落地“最后一公里”
9 月 26 日,2025 云栖大会 AI 中间件:AI 时代的中间件技术演进与创新实践论坛上,阿里云智能集团资深技术专家林清山发表主题演讲《未来已来:下一代 AI 中间件重磅发布,解锁 AI 应用架构新范式》,重磅发布阿里云 AI 中间件,提供面向分布式多 Agent 架构的基座,包括:AgentScope-Java(兼容 Spring AI Alibaba 生态),AI MQ(基于Apache RocketMQ 的 AI 能力升级),AI 网关 Higress,AI 注册与配置中心 Nacos,以及覆盖模型与算力的 AI 可观测体系。
1019 53
|
3月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
493 30
|
3月前
|
设计模式 人工智能 自然语言处理
3个月圈粉百万,这个AI应用在海外火了
不知道大家还记不记得,我之前推荐过一个叫 Agnes 的 AI 应用,也是当时在 WAIC 了解到的。
458 1

相关产品

  • 云原生大数据计算服务 MaxCompute