AI Native平台,跨越AI应用从创新到生产的鸿沟

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,5000CU*H 3个月
模型训练 PAI-DLC,5000CU*H 3个月
简介: 2024年是AI应用的元年,以大模型为中心的 AI Native 应用大爆发正在从理想变成现实。云计算带来的应用创新潮,经历了虚拟机时代和云原生时代,正在全面拥抱以大模型为核心的 AI Native 阶段,推动大数据与AI的工作流前所未有地紧密结合。领先大模型、高效的AI计算平台和统一的大数据平台是 AI Native 应用广泛落地背后不可获缺的要素。9月20日,2024云栖大会上,阿里云副总裁、阿里云计算平台事业部负责人汪军华宣布大数据AI平台全面升级,为 AI Native 应用大爆发提供坚实的平台支撑。

2024年是AI应用的元年,以大模型为中心的 AI Native 应用大爆发正在从理想变成现实。云计算带来的应用创新潮,经历了虚拟机时代和云原生时代,正在全面拥抱以大模型为核心的 AI Native 阶段,推动大数据与AI的工作流前所未有地紧密结合。领先大模型、高效的AI计算平台和统一的大数据平台是 AI Native 应用广泛落地背后不可获缺的要素。

9月20日,2024云栖大会上,阿里云副总裁、阿里云计算平台事业部负责人汪军华宣布大数据AI平台全面升级,为 AI Native 应用大爆发提供坚实的平台支撑。

image.png


多模态数据统一纳管、多计算引擎平权计算、大数据AI一体化开发

随着大模型技术革新和互联网应用发展,多模态数据规模持续增长、价值日益凸显,这也为大数据系统带来了成本和管理的挑战。与此同时,无论是模型训练的数据处理,还是AI应用的生产化落地,都需要打通大数据开发和AI开发流程。应对 AI Native 时代的新需求,阿里云正式发布 OpenLake 解决方案,构建大数据、搜索、AI一体化的能力体系,实现多模态数据统一纳管、多种计算引擎平权计算、大数据AI一体化开发,助力企业基于数据资产构筑竞争力。

  • OpenLake 建立在 OSS 开放的公共数据湖仓基础之上,使用元数据管理平台 DLF 统一管理结构化、半结构化和非结构化数据,提供湖仓数据的安全访问机制、文件增删查改能力和 I/O 加速能力。
  • 在引擎层,包含 PAI、MaxCompute、Hologres、Flink、EMR StarRocks、EMR Spark、AI搜索引擎在内的各类计算引擎,可以访问同一份数据并进行协同计算,消除数据壁垒和存储冗余。
  • 在开发层,DataWorks 提供一体化的 IDE+Notebook 模式,实现多引擎 SQL 和 Python 统一开发,并提供多任务可视化调度保障。

image.png

OpenLake 专门面向企业级大数据处理分析复杂需求而设计,应用场景包括:统一湖存储、基于 Flink 新一代流式湖仓、基于 Hologres/StarRocks 的新一代实时查询湖仓、基于 MaxCompute 和 Hologres 的经典流批查询湖仓、基于AI搜索的多模态 RAG 检索增强、以 DataWorks 为核心的大数据AI多引擎协同开发等。


AI有效算力10倍以上提升,人工智能平台持续进化

大模型研究和应用带来了指数级增长的算力需求。从去年9月至今,阿里云在建设更多AI计算集群的同时,不断地通过软件层调度优化技术提升有效算力规模,目前,阿里云AI计算集群的有效利用率达到90%以上,整体AI有效算力相比去年同期提升超过10倍,为云上AI创新提供坚实保障。

image.png

面向 AI Native 应用大爆发催生的模型推理新特点,人工智能平台 PAI 全面升级 PAI-EAS 推理服务模块。PAI 内置推理优化引擎 BladeLLM,综合 BlaDNN 高性能算子、量化、 PD分离的分布式推理、prompt cache 缓存优化等技术,能有效降低首包时延 (TTFT) 84%以上、降低 token 输出时延 (TPOT) 69%以上、提升推理吞吐80%以上。此外,结合 LLM 推理负载感知智能路由和专属网关,PAI-EAS 能根据实时业务负载和资源类型灵活调度,将推理任务动态分发至遍布全球的推理集群进行计算。为了进一步提高计算资源利用率,PAI 正式发布 AI Scheduler 训推一体调度引擎,具备异构算力混合调度、多级 quota 管理、任务形态混合调度、任务无感切换等能力,可保障集群任务满载,提升利用率。

image.png

大模型能力不断进化,也引发了对于模型安全的担忧。人工智能平台 PAI 推出可信AI模块,具备毒性数据清洗、机密计算容器、不当推理内容拦截等功能,保障模型和数据安全。


阿里云 x Elastic 战略合作发布

本次云栖大会上,阿里云副总裁、计算平台事业部负责人汪军华与 Elastic 全球副总裁 Bahaaldine Azarmi 联合宣布双方战略合作,目前,阿里云上的 Elasticsearch 产品已从白金版全面升级至企业版,双方将加大投入联合运营 Elastic 中国技术社区,服务更多开发者。

Elastic 全球副总裁 Bahaaldine Azarmi 表示:长期以来,Elastic 与阿里云和合作是令人振奋的。在生成式AI技术不断发展的今天,Elastic 与阿里云将更紧密地携手,共建AI搜索产品和场景方案,共同运营中国技术社区。不断为中国企业和开发者带来领先的搜索产品和能力。

image.png


大数据AI一体化平台全面普惠

阿里云大数据AI一体化平台,以丰富且完备的产品体系,持续为 AI Native 应用的工业化落地提供保障。此次云栖大会,汪军华宣布了一系列最新的产品活动,其中,OpenLake 解决方案免费试用活动于9月20日起正式上线,企业用户可以一键开通体验;各款大数据AI产品推出更低折扣,降低使用门槛,让大数据AI能力普惠各行各业。

image.png

具体优惠细则请登录阿里云产品官网查看。

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
1天前
|
人工智能 Serverless
AI助理精准匹配,为您推荐方案——如何添加一个Stable Difussion图像生成应用
介绍了一种利用AI助手快速获取并搭建Stable Diffusion图像生成应用的方法。用户只需在阿里云官网向AI助手提出需求,即可获得详细的实施方案。随后,按照AI助手提供的方案,通过函数计算部署应用,并进行测试。此过程显著提升了开发效率。
24 1
AI助理精准匹配,为您推荐方案——如何添加一个Stable Difussion图像生成应用
|
4天前
|
机器学习/深度学习 人工智能 自然语言处理
探索AI技术在医疗领域的应用
【8月更文挑战第67天】随着人工智能技术的不断发展,其在医疗领域的应用也日益广泛。本文将探讨AI技术在医疗领域的应用,包括辅助诊断、个性化治疗方案和智能医疗设备等方面。通过实例分析,我们将了解AI技术如何改变传统医疗模式,提高医疗服务的质量和效率。
40 16
|
2天前
|
存储 人工智能 供应链
AI与能源系统:优化能源生产和消费
【10月更文挑战第9天】在当前全球能源转型的关键时期,人工智能(AI)正逐渐成为推动能源系统优化与升级的重要力量。本文探讨了AI在能源生产、分配、存储和消费等方面的应用。在能源生产中,AI通过智能预测与调度、故障预警及优化资源配置等方式提升效率;在能源分配与存储方面,AI推动智能电网管理和储能系统优化;在能源消费端,AI实现精细化管理,如智能家庭能源管理和工业节能。未来,AI将进一步融入能源系统的各个环节,促进能源的高效配置与可持续发展。然而,面对数据安全和算法透明度等挑战,需加强监管与伦理审查,确保AI技术健康发展。
|
2天前
|
机器学习/深度学习 人工智能 算法
AI在医疗健康领域的应用
随着人工智能技术的不断发展,其在医疗健康领域的应用也日益广泛。从辅助诊断、个性化治疗方案的制定,到疾病预防和健康管理,AI技术都在发挥着重要作用。本文将探讨AI在医疗健康领域的应用,包括其在医学影像分析、基因编辑、药物研发等方面的应用,以及其对医疗行业未来发展的影响。
|
3天前
|
机器学习/深度学习 人工智能 搜索推荐
AI技术在医疗领域的应用及挑战
【9月更文挑战第36天】随着人工智能技术的不断发展,其在医疗领域的应用也日益广泛。本文将从AI技术在医疗领域的应用场景、优势以及面临的挑战等方面进行探讨。通过分析AI技术在医疗领域的应用,我们可以更好地了解其发展趋势和未来前景。
22 3
|
6天前
|
机器学习/深度学习 人工智能 自然语言处理
探索AI技术:从基础原理到实际应用的全面剖析
本文旨在为读者提供关于人工智能(AI)技术的全面了解。从探讨AI的基本概念和关键技术入手,逐步深入到AI在不同领域的应用实例,包括医疗、金融和自动驾驶等。同时,文章也详细讨论了当前AI技术面临的伦理问题和社会影响,以及可能的解决方案。最后,本文还展望了AI技术未来的发展趋势,帮助读者更好地理解这一前沿科技的现状与未来。
|
5天前
|
机器学习/深度学习 人工智能 搜索推荐
AI在医疗诊断中的应用
【9月更文挑战第35天】本文将探讨人工智能(AI)如何在医疗诊断中发挥作用,提高医生的诊断效率和准确性。我们将通过实例来展示AI如何帮助医生进行疾病预测、影像诊断和个性化治疗。同时,我们也将讨论AI在医疗诊断中面临的挑战和未来的发展。
9 2
|
2天前
|
存储 人工智能 网络安全
科技云报到:云服务的中场战事,从AI应用开始
从去年的大模型之战,到今年的AI应用之争,云服务正在迈入全新的发展阶段。AI这个杠杆将各家厂商的竞争策略更向前推进了一步。
|
14天前
|
机器学习/深度学习 数据采集 人工智能
探索AI技术在文本生成中的应用与挑战
【9月更文挑战第26天】本文深入探讨了AI技术在文本生成领域的应用,并分析了其面临的挑战。通过介绍AI文本生成的基本原理、应用场景以及未来发展趋势,帮助读者全面了解该技术的潜力和局限性。同时,文章还提供了代码示例,展示了如何使用Python和相关库实现简单的文本生成模型。
44 9
|
8天前
|
人工智能 自然语言处理 搜索推荐
AI技术在智能客服系统中的应用与挑战
【9月更文挑战第32天】本文将探讨AI技术在智能客服系统中的应用及其面临的挑战。我们将分析AI技术如何改变传统客服模式,提高服务质量和效率,并讨论在实际应用中可能遇到的问题和解决方案。
112 65