大数据&AI产品月刊【2024年5月】

本文涉及的产品
实时数仓Hologres,5000CU*H 100GB 3个月
实时计算 Flink 版,5000CU*H 3个月
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 大数据&AI产品技术月刊【2024年5月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据&AI方面最新动态。

 

一、产品功能发布

【人工智能平台 PAI】新功能/规格 -EAS-Serverless AI绘画场景发布

AI 绘画的使用场景中,免费拉起服务,仅对实际调用收费。

云原生大数据计算服务 MaxCompute】新功能/规格 -作业性能观测功能发布

用户可通过查看整体作业运行相关指标判断性能是否符合预期。

云原生大数据计算服务 MaxCompute】新功能/规格 -自定义镜像管理

帮助用户自由、灵活的使用 Docker 镜像来构建自己所需的完整开发环境,并在 SQL、Python 开发中使用。

实时数仓 Hologres】新功能/规格 -Hologres支持表索引诊断

表索引诊断功能,通过对表的索引(存储模式、索引设置)等不同维度的元数据进行诊断。

实时计算 Flink 版】功能优化 -ARMS 监控告警功能优化

支持了批量告警设置的能力,及多种场景下告警的设置,提升用户的运维效率。

【实时计算 Flink 版】新功能/规格 -使用 UI 创建 SLS 和 StarRocks Catalog

用户可使用 UI 创建 SLS 和 StarRocks Catalog

实时计算 Flink 版】新功能/规格 -支持配置并使用作业变量

支持配置并使用作业变量,以大幅提升开发效率。

智能开放搜索 OpenSearch】新功能/规格 -LLM 智能问答版数据处理策略优化升级

OpenSearch 智能问答版切片策略升级,大幅提升结果准确率与召回率。

二、产品活动

阿里云 EMR Serverless Spark 版开启免费公测

为企业提供了一站式的数据平台服务,包括任务开发、调试、调度和运维等,极大地简化了数据处理的全生命周期工作流程。使用 EMR Serverless Spark 版,企业可以更专注于数据分析和价值提炼,提高工作效率。

使用人工智能平台 PAI 开发 AIGC 绘图小助手

使用 PAI-DSWx Free Prompt Editing 图像编辑算法,开发个人 AIGC 绘图小助理,实现文本驱动的图像编辑功能单卡即可完成 AIGC 图片风格变化、背景变化和主体变化等功能。

 

三、产品快讯

阿里云 PAI 发布 DeepRec Extension,打造稳定高效的分布式训练,并宣布开源!

阿里云人工智能平台 PAI 正式发布自研的 DeepRec Extension(即 DeepRec 扩展),旨在以更低成本,更高效率进行稀疏模型的分布式训练。DeepRec Extension 在 DeepRec 训练推理框架之上,围绕大规模稀疏模型分布式训练,创新性地从训练任务的视角提出了自动弹性训练和分布式容错功能,进一步提升稀疏模型训练的整体效率,助力 DeepRec 引擎在稀疏场景中发挥更大的优势。

阿里云 PAI 视频生成框架 EasyAnimate 正式开源!

EasyAnimate 是阿里云人工智能平台 PAI 自主研发的 DiT-based 视频生成框架,它提供了完整的视频生成解决方案,包括视频数据预处理、VAE 训练、DiT 训练、模型推理和模型评测等。在预训练模型的基础上,EasyAnimate可通过少量图片的 LoRA 微调来改变生成视频的风格,相比已有方案具有更好的扩展性和完整性。

EasyAnimate 在人工智能平台 PAI 上进行了集成,供用户一键训练和部署,其支持以下功能:144 frames 模型的推理 (512x512分辨率可在A10上推理)、DiT 基线模型的训练、DiT LoRA 模型的训练(512x512分辨率可在A10上训练图片Lora)、VAE 模型的训练和推理、视频的打标和预处理,用户可以使用 EasyAnimate 来进行任意风格视频模型的训练和推理。

大数据基础工程技术团队4篇论文入选 ICLR,ICDE,WWW

阿里云计算平台大数据基础工程技术团队主导的四篇时间序列相关论文分别被国际顶会 ICLR2024、ICDE2024和WWW2024 接收。论文成果是阿里云与华东师范大学、浙江大学、南京大学等高校共同研发,涉及时间序列与智能运维结合的多个应用场景。包括基于 Pathways 架构的自适应多尺度时间序列预测模型 Pathformer;基于扰动技术的时间序列解释框架 ContraLSP;多正常模式感知的频域异常检测算法 MACE;轻量数据依赖的异常检测重训练方法 LARA。此次,时间序列相关模型等多篇论文的入选,表明阿里云在大数据基础技术领域的研究得到了国际学术界的认可,不仅展示了阿里云的技术竞争力,也创造了更多国际合作交流的可能性。

OpenSearch LLM 智能问答版全新升级

阿里云OpenSearch LLM 智能问答版是 OpenSearch 推出的一站式开箱即用的检索增强生成(RAG)云产品,帮助开发者快速构建多模态对话式搜索服务。新增最新版开源大模型、多模态模型、切片策略升级等产品能力。

 

四、产品学习指南

【最佳实践】阿里云人工智能 PAI+Llama Factory 低代码微调 Llama3 模型

人工智能平台 PAI 与 Github 热门开源大模型微调框架 LLaMA Factory 共同打造开箱即用的 LLM 微调实践教程,通过 Web UI 界面零代码微调大模型。

【最佳实践】DeepRec Extension 打造稳定高效的分布式训练

DeepRec Extension 即 DeepRec 扩展,在 DeepRec 训练推理框架之上,围绕大规模稀疏模型分布式训练,从训练任务的视角提出了自动弹性训练,分布式容错等功能,进一步提升稀疏模型训练的整体效率,助力 DeepRec 引擎在稀疏场景中发挥更大的优势。

【最佳实践】Hologres RoaringBitmap 在 Lazada 选品平台的最佳实践

Lazada 选品平台包含全网商家、商品的圈选,通过 Hologres RoaringBitmap 能力帮助业务突破选品池20w大小限制,6000+选品池调度完成由12h下降至1h,单个选品池调度时间由90s下降至2s。

 

【最佳实践】基于阿里云向量检索 Milvus 版与 PAI 搭建高效的检索增强生成(RAG)系统

阿里云向量检索 Milvus 版现已无缝集成于阿里云 PAI 平台,一站式赋能用户构建高性能的检索增强生成(RAG)系统。您可以利用 Milvus 作为向量数据的实时存储与检索核心,高效结合 PAI 和 LangChain 技术栈,实现从理论到实践的快速转化,搭建起功能强大的 RAG 解决方案。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
30天前
|
数据采集 人工智能 分布式计算
MaxFrame:链接大数据与AI的高效分布式计算框架深度评测与实践!
阿里云推出的MaxFrame是链接大数据与AI的分布式Python计算框架,提供类似Pandas的操作接口和分布式处理能力。本文从部署、功能验证到实际场景全面评测MaxFrame,涵盖分布式Pandas操作、大语言模型数据预处理及企业级应用。结果显示,MaxFrame在处理大规模数据时性能显著提升,代码兼容性强,适合从数据清洗到训练数据生成的全链路场景...
76 5
MaxFrame:链接大数据与AI的高效分布式计算框架深度评测与实践!
|
16天前
|
人工智能 算法 测试技术
AI 研发产品进化论:从 AI 编码助手到 AI 程序员
本次分享由阿里云资深技术专家陈鑫主讲,主题为“AI研发产品进化论:从AI编码助手到AI程序员”。内容涵盖通义灵码在落地过程中的挑战与突破,包括精准度提升、企业级检索增强、自定义扩展及智能体的应用。通过全工程理解、个性化适配和智能体的引入,通义灵码已实现代码补全、单元测试生成、缺陷修复等核心功能,并显著提升了开发者的工作效率。目前,通义灵码已在Vs Code和JetBrains插件市场上获得超过500万次下载,月均采纳率超过30%,并持续优化中。
61 9
|
18天前
|
人工智能 分布式计算 大数据
MaxFrame 产品评测:大数据与AI融合的Python分布式计算框架
MaxFrame是阿里云MaxCompute推出的自研Python分布式计算框架,支持大规模数据处理与AI应用。它提供类似Pandas的API,简化开发流程,并兼容多种机器学习库,加速模型训练前的数据准备。MaxFrame融合大数据和AI,提升效率、促进协作、增强创新能力。尽管初次配置稍显复杂,但其强大的功能集、性能优化及开放性使其成为现代企业与研究机构的理想选择。未来有望进一步简化使用门槛并加强社区建设。
51 7
|
25天前
|
人工智能 分布式计算 DataWorks
大数据& AI 产品月刊【2024年12月】
大数据& AI 产品技术月刊【2024年12月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
16天前
|
人工智能 IDE 程序员
从 AI Coding 演进路径看通义灵码 AI 程序员的发布,让更多 idea 变成产品
通义灵码 2.0 不仅正式发布 AI 程序员,还升级了很多基础能力,使用场景多样。繁星计划的推出更为大学生提供了免费的智能编码助手,助力科技创新。让不具备编码能力的人也可以将 idea 变成产品,帮助到更多开发者和泛开发者。
|
23天前
|
数据采集 机器学习/深度学习 DataWorks
DataWorks产品评测:大数据开发治理的深度体验
DataWorks产品评测:大数据开发治理的深度体验
92 1
|
18天前
|
人工智能 算法 搜索推荐
云端问道11期方案教学-创建专属AI助手-阿里云百炼产品能力分享
阿里云百炼产品能力分享旨在帮助用户深入了解百炼的核心功能,并快速将大模型与系统结合。主要内容包括:1. 百炼的产品定位和能力简介,涵盖模型推理、应用搭建等;2. 知识检索RAG智能体的应用能力和优势,介绍其高效构建知识库的步骤及常见问题;3. 最佳落地案例实践,如宠物行业AI助手和产业分析类互联网企业的Copilot机器人。通过这些内容,用户可以全面掌握百炼在实际业务中的应用方法和效果。
|
12天前
|
SQL 数据可视化 大数据
从数据小白到大数据达人:一步步成为数据分析专家
从数据小白到大数据达人:一步步成为数据分析专家
161 92
|
3月前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
622 7
|
3月前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
80 2

相关产品

  • 云原生大数据计算服务 MaxCompute