「智驱未来,云网随行」阿里云基础设施AI技术沙龙云网络专场在杭州举办

简介: 6月20日,阿里云基础设施AI Tech Day ·云网络专场在杭州太极禅院成功举办。活动吸引了来自吉利、极氪、浙江大学等35位技术负责人及师生参与。现场围绕AI场景下的算力资源网络建设,探讨了数据采集、模型调度、算力池化等关键技术方案,分享了阿里云在通义模型、PAI平台、弹性计算及云网络方面的最佳实践,助力企业构建智能、弹性的AI基础设施。

聚焦AI场景下的算力资源网络建设,「智驱未来,云网随行」阿里云基础设施AI Tech Day首场 ·云网络专场于6月20日下午在杭州太极禅院顺利举办,现场吸引了来自吉利、极氪、万帮、正元智慧、分叉智能、小影科技、哈啰、国家(杭州)新型互联网交换中心、飞致云等25家AI领域相关企业或有AI建设诉求企业的35名技术/研发负责人、架构师及IT运维工程师参与,同时也吸引了浙江大学、浙江外国语学院、杭州师范大学等从事AI领域研究的师生参与现场学习讨论。 本次技术沙龙旨在聚焦企业在AI模型及应用运营或者使用过程中的实际需求,探讨如何通过优化模型调度、算力资源池化、数据深度挖掘等场景下的AI基础设施 & 网络架构,帮助企业打造智能、弹性、稳定的下一代AI Infra。


阿里云 公共云事业部 江浙皖大区副总经理 张思远(紫鉴)致开场辞,随着AI能力的加持,企业的IT基础设施建设已经不仅仅是一个流程和工具的重构,而是深刻地纳入企业的业务流程,成为很多企业的战略决策参与者。在AI的加持下,我们今天的云基础设施也在重新被定义,也希望云基础设施能够成为AI爆发的创新土壤。在AI时代,无论是企业还是个人的竞争更多是认知速度的竞争。认知速度都要向网络速度靠拢,零等待的高性能智能网络可能是AI时代业务爆发的一个底座和前提。希望阿里云无论是网络、计算、通义、PAI等基础能力能够助力大家共同创造和见证AI未来。

Part 1:AI 数据采集和模型调用

在这一章节,围绕着企业AI模型训练和推理过程中的数据采集、模型调度和弹性资源池建设等问题,就阿里云解决方案以及最佳实践展开分享。


在这一章节,阿里云 通义实验室 高级产品解决方案架构师郑海超(海焘) 介绍了阿里云通义模型的建设和实践经验。随着多年的发展,通义已经成为全球最大的开源模型家族,并在多个行业场景支持业务创新,加速创维电视/雷鸟AI眼镜等消费电子产品创新,以及陶白白/猎聘AI面试官等社交娱乐体验;而通义系列模型的强大能力,离不开阿里云AI Infra层的支撑,包括 PAI、弹性算力、全球一张算力网络等,支撑通义从数据采集到数据加工,模型训练和调优以及提供推理服务的全场景需求。

阿里云 云网络 产品解决方案架构师 姜辉(靖韦)就AI场景数据采集网络方案和实践进行了分享,包括AI数据采集场景的常见痛点,模型训练场景常用的数据采集方式及业务特点,阿里云在数据采集场景的方案等,其中方案层面重点介绍了阿里云的海量IP数据采集方案、NAT网关数据采集方案和定向数据采集方案等,基本覆盖了客户常见的数据采集场景。

阿里云 弹性计算 产品解决方案架构师 储依帆(徽岳)分享AI Infra 关键基础算力与容器编排调度方案。阿里云具备AIInfra整体全栈能力,不仅提供了通用与加速计算高性能算力,并在IaaS基础上基于深厚的技术积累演进推出了AI训推任务的加速组件DeepGPU,实现了算力效率的大幅提升;同时,面向全链路工程化,阿里云ACK容器服务可以帮助客户更高效地串联起AI模型与AI应用,具备了数据采集与处理、算力调度与监控、角色拓扑编排、数据加速等方面的全栈能力。

Part 2:AI 算力资源池化

无论是AI模型的训推或者AI应用的搭建和服务提供,均离不开强大的算力支撑,那如何整合异构算力资源,以更高效的提升企业AI效能,阿里云PAI和云网络就此展开解决方案和最佳实践的分享。


阿里云 计算平台 高级产品解决方案架构师曹志(骁志)就PAI全球化模型推理服务的创新与实践展开分享。围绕资源的高利用率、服务的高性能、业务的高可用,AGI的推理服务有诸多挑战,BladeLLM核心引擎,提升AGI服务的性能与效率,提供全面多样的量化功能支持、高效的请求调度策略以及支持采用Prompt Cache和高效解码方法,实现两阶段加速;同时,在AI平台共享网关的基础上,EAS提供专属网关实现跨地域的服务调度,满足客户在安全隔离与访问控制方面的需求,降低客户高并发和高吞吐业务场景带来的网络风险。

阿里云云网络 高级产品解决方案架构师 任江波(硕丰)紧接着就AI场景算力池化网络方案与实践进行分享,模型的训练、 AI应用的迭代均离不开强大的算力支撑,如何整合异构算力,让算力池化,按需调度,让业务专注于自身。基于阿里云弹性公网 EIP、云企业网CEN、私网连接PrivateLink和云原生ALB等核心产品构建一张覆盖全球的异构AI算力网络,真正实现算网融合,算力资源池化,弹性调度,按需使用。支撑AI场景下高效数据采集、超大带宽训练数据运载、超低时延推理数据传输、超高安全工具调用和极致高效的算力调度能力。



在最后的客户互动讨论环节,来自阿里云网络、通义、PAI、ECS等团队的PDSA、PD和研发同学,与到场客户一起围绕企业AI(模型/应用等)建设及使用场景的典型问题展开深度探讨和交流,包括IaaS层核心力与网络需求、外部数据获取与模型优化、AI应用与智能体服务部署、基础架构重构与资源融合等相关的架构合理性、合规性、成本、质量等。

相关文章
|
8月前
|
云安全 人工智能 安全
Dify平台集成阿里云AI安全护栏,构建AI Runtime安全防线
阿里云 AI 安全护栏加入Dify平台,打造可信赖的 AI
3984 166
|
8月前
|
机器学习/深度学习 人工智能 Serverless
吉利汽车携手阿里云函数计算,打造新一代 AI 座舱推理引擎
当前吉利汽车研究院人工智能团队承担了吉利汽车座舱 AI 智能化的方案建设,在和阿里云的合作中,基于星睿智算中心 2.0 的 23.5EFLOPS 强大算力,构建 AI 混合云架构,面向百万级用户的实时推理计算引入阿里云函数计算的 Serverless GPU 算力集群,共同为智能座舱的交互和娱乐功能提供大模型推理业务服务,涵盖的场景如针对模糊指令的复杂意图解析、文生图、情感 TTS 等。
|
8月前
|
机器学习/深度学习 人工智能 算法
阿里云视频云以 360° 实时回放技术支撑 NBA 2025 中国赛 —— AI 开启“智能观赛”新体验
NBA中国与阿里云达成合作,首发360°实时回放技术,融合AI视觉引擎,实现多视角、低延时、沉浸式观赛新体验,重新定义体育赛事观看方式。
1396 0
阿里云视频云以 360° 实时回放技术支撑 NBA 2025 中国赛 —— AI 开启“智能观赛”新体验
|
8月前
|
存储 人工智能 OLAP
AI Agent越用越笨?阿里云AnalyticDB「AI上下文工程」一招破解!
AI上下文工程是优化大模型交互的系统化框架,通过管理指令、记忆、知识库等上下文要素,解决信息缺失、长度溢出与上下文失效等问题。依托AnalyticDB等技术,实现上下文的采集、存储、组装与调度,提升AI Agent的准确性与协同效率,助力企业构建高效、稳定的智能应用。
|
SQL 监控 安全
网络安全与信息安全:漏洞、加密与安全意识
随着互联网的迅猛发展,网络安全和信息安全问题日益受到关注。本文深入探讨了网络安全漏洞、加密技术以及提高个人和组织的安全意识的重要性。通过分析常见的网络攻击手段如缓冲区溢出、SQL注入等,揭示了计算机系统中存在的缺陷及其潜在威胁。同时,详细介绍了对称加密和非对称加密算法的原理及应用场景,强调了数字签名和数字证书在验证信息完整性中的关键作用。此外,还讨论了培养良好上网习惯、定期备份数据等提升安全意识的方法,旨在帮助读者更好地理解和应对复杂的网络安全挑战。
|
SQL 安全 网络安全
网络安全与信息安全:知识分享####
【10月更文挑战第21天】 随着数字化时代的快速发展,网络安全和信息安全已成为个人和企业不可忽视的关键问题。本文将探讨网络安全漏洞、加密技术以及安全意识的重要性,并提供一些实用的建议,帮助读者提高自身的网络安全防护能力。 ####
495 17
|
SQL 安全 网络安全
网络安全与信息安全:关于网络安全漏洞、加密技术、安全意识等方面的知识分享
随着互联网的普及,网络安全问题日益突出。本文将从网络安全漏洞、加密技术和安全意识三个方面进行探讨,旨在提高读者对网络安全的认识和防范能力。通过分析常见的网络安全漏洞,介绍加密技术的基本原理和应用,以及强调安全意识的重要性,帮助读者更好地保护自己的网络信息安全。
373 10
|
存储 SQL 安全
网络安全与信息安全:关于网络安全漏洞、加密技术、安全意识等方面的知识分享
随着互联网的普及,网络安全问题日益突出。本文将介绍网络安全的重要性,分析常见的网络安全漏洞及其危害,探讨加密技术在保障网络安全中的作用,并强调提高安全意识的必要性。通过本文的学习,读者将了解网络安全的基本概念和应对策略,提升个人和组织的网络安全防护能力。
|
SQL 安全 网络安全
网络安全与信息安全:关于网络安全漏洞、加密技术、安全意识等方面的知识分享
在数字化时代,网络安全和信息安全已成为我们生活中不可或缺的一部分。本文将介绍网络安全漏洞、加密技术和安全意识等方面的内容,并提供一些实用的代码示例。通过阅读本文,您将了解到如何保护自己的网络安全,以及如何提高自己的信息安全意识。
361 10
|
监控 安全 网络安全
网络安全与信息安全:漏洞、加密与意识的交织
在数字时代的浪潮中,网络安全与信息安全成为维护数据完整性、保密性和可用性的关键。本文深入探讨了网络安全中的漏洞概念、加密技术的应用以及提升安全意识的重要性。通过实际案例分析,揭示了网络攻击的常见模式和防御策略,强调了教育和技术并重的安全理念。旨在为读者提供一套全面的网络安全知识框架,从而在日益复杂的网络环境中保护个人和组织的资产安全。