李亮在会上表示,未来“云平台”将是世界级大模型及AI应用的首选基础设施,面对AI浪潮下云平台的全新挑战,阿里云以飞天企业版提供全栈AI云解决方案,支撑政企客户业务智算落地,构筑数智化转型、升级的坚实底座。
AI方兴未艾——云平台成为AI大模型“新基建”
近几年,AI创新的浪潮奔涌,吸引了全球参与。当前,大模型是人工智能最为核心的技术代表,硬件、软件和数据都将和大模型深度绑定。从软硬件层面来看,从大规模服务器和大型计算系统,到机器人、个人电脑、手机乃至智能眼镜等终端设备,各类AI应用的背后均由大模型所驱动;从数据维度来看,传统数据库仅能处理有限的、结构化的数据,大数据产品是通过大量数据的计算和分析,得出相对确定性的结果,而大模型所代表的生成式AI能力,能够真正激活海量的非结构化数据资源,释放其潜在价值或产生新的价值。
AI大模型发展的三要素算力、算法、数据,其中算法可以开源或迁移脱离平台存在,但支撑其训练与运行的算力与数据基础设施,必须根植于强大的云平台之上。全球领先的云厂商之所以都拥有自研大模型与算力基础设施,根本原因在于:大模型的发展依赖于两大核心要素——超大规模算力调度与海量数据处理能力,两者构成了云平台的核心优势。
未来“云平台”将是世界级大模型及AI应用的首选基础设施。
算力范式变革——政企智算云中心的需求与挑战
在拥抱AI浪潮时,政企客户需要在成本、创新、效率、安全等因素中进行多重考量,其中很多问题更是行业普遍的痛点:
- 多样化异构算力的有效管理:“为了保证硬件供应链的安全合规,我们必须保证多家国产GPU厂商的供应方案,同时在我们的机房中还有一些存量的卡也需要资产利旧。如何确保在多样化的硬件供应前提下,降低系统建设、管理的难度,加速新硬件的上线和使用?
- 快速迭代的模型和工具的高效集成:“新的AI框架、工具和模型几乎每周都更新,同时多样化的应用场景也需要多样化的模型和工具匹配。如何让最新的模型和工具快速在AI应用中得到更新?如何持续保持团队AI技术的生产力?如何持续跟进最先进的AI技术框架不掉队?”
- 大模型应用如何快速开发和见效:“公司对AI和大模型的应用带来的价值期望很高,但是结合企业的实际业务痛点,利用AI带来业务质变,还有很多困难和挑战。如何让业务一线的员工能够用低代码甚至零代码的方式结合自己的业务场景快速搭建Agent进行业务创新试错?如何让AI大模型和已有业务流程和应用进行深度融合和持续演进?如何让我团队现有的企业应用开发人员快速掌握AI应用开发的技巧?如何客观准确地对AI应用的开发质量和输出效果进行评测?”
- 大模型应用如何安全稳定运行:“大模型涉及用户隐私和核心数据,生成内容不可控、合规风险高,稍有不慎就是系统性危机。大模型上线速度快,且因为大模型幻觉等不确定性因素,会对应用的运维和业务平稳运行带来前所未有的挑战。大模型应用如何确保内容安全,如何在运行过程中出现问题快速定位和解决?如何和现有的安全和运维体系无缝对接?”
这些挑战,成为影响推动AI创新的阻碍,亟需创新的解决方案,为政企AI创新落地创造更好的落地条件。
飞天企业版——以全栈AI能力护航智算云
上述问题的解答,不能依靠单点的技术创新,而是需要系统化的解决方案。阿里云飞天企业版依托与公共云同根同源的技术,面向客户提供“云数智”一体化全栈能力,以应对AI浪潮的挑战。
- 在IaaS层,目前飞天企业版单集群最多支持1.5万张GPU卡进行模型训练和调优,满足政企建设大规模智算中心的需求;同时,资源可以按1%的粒度进行调度,让GPU的资源利用率提升100%。此外,基于云和自研芯片的联合优化,飞天企业版每百万Output Token成本降低了89%。
- 在PaaS层,飞天企业版提供AI网关,支持存量接口零代码转换,集成成本下降90%。同时全栈云平台还提供多模向量数据库和多种数据工具,整体的数据开发与模型训练的效率提升30%。
- 在MaaS层,飞天企业版提供一站式模型训推工具集,可以有效地提升训推效率;同时通过全生命周期Agent开发平台和多模态知识中心可以高效地帮助客户构建行业智能体。
- 在稳定性方面,训练场景,弹性容错平台的故障监控覆盖率达到80%以上,具备分钟级恢复训练任务能力。在推理场景,平均故障定位时间从半小时缩短到了90秒。
- 在安全方面:首家通过等保五级的云平台。AI安全围栏提供100多种风险项的控制能力,保护AIGC内容安全。阿里云还与10多家安全生态厂商对接专有云AI安全解决方案,提供更全面的大模型安全产品。
- 开放方面,飞天企业版集成了50多个行业AI应用,并打通魔搭社区,10万多开源模型可以一键同步到本地,支持三方MCP服务扩展。
面向AI时代的智能化趋势,飞天企业版已实现“智算升级”,将智算能力深度融入专有云平台,实现多种算力的一网调度,满足政企客户“云+AI”协同发展需求,为AI大规模在政企场景落地提供“智算云”解决方案。在AI浪潮席卷全球的今天,AI与云深度协同已成为企业智能化升级的关键引擎,阿里云飞天企业版正以更加开放、智能、可信的理念,助力政企客户打造更加安全稳定、智能敏捷的AI数字化基座,做政企数智创新的同行者。