阿里云高级技术专家李鹏:AI基础设施的演进与挑战 | GenAICon 2024

本文涉及的产品
云服务器 ECS,每月免费额度200元 3个月
云服务器ECS,u1 2核4GB 1个月
简介: 阿里云高级技术专家、阿里云异构计算AI推理团队负责人李鹏将在主会场第二日上午的AI Infra专场带来演讲,主题为《AI基础设施的演进与挑战》。

  图片1.jpg


ChatGPT面世以来,生成式AI已加速狂飙16个月,在学术界、产业界、投资界掀起滔天巨浪,冲击着千行百业。


AI大模型飞速迭代,创新应用层出不穷。我们正处于技术野蛮生长的爆发时刻,见证着AI向通用人工智能全速冲刺的破竹之势。


值此之际,由智一科技旗下智东西联合智猩猩发起主办的2024中国生成式AI大会将于418-19日在北京JW万豪酒店举办。今年大会以“重构世界 奔赴未来”为主题,拟邀请50+位重量级嘉宾同台分享,以前瞻性视野全景式解构生成式AI的时与势、危与机、破与立。这是继2023年举办国内首场聚焦AIGC的高规格创新峰会后,智一科技旗下智东西联合智猩猩发起主办的第二届生成式AI行业盛会。


大会由主会场峰会+分会场研讨会/论坛+展览+榜单组成,其中主会场第一日将进行开幕式、大模型专场,第二日将进行 AI Infra 专场、AIGC 应用专场;分会场第一日下午将进行智猩猩具身智能技术研讨会,第二日上下午分别进行智猩猩 AI 智能体技术研讨会、以及中国智算中心创新论坛。【 AI 生产力创新先锋-中国生成式 AI 企业 TOP50】榜单将在大会第二日上午正式揭晓。

 

阿里云高级技术专家、阿里云异构计算AI推理团队负责人李鹏将在主会场第二日上午的AI Infra专场带来演讲,主题为《AI基础设施的演进与挑战》。

 

嘉宾介绍

 

李鹏,阿里云异构计算高级技术专家,毕业于北京航空航天大学计算机系,目前是阿里云异构计算AI推理团队负责人,负责生成式AI推理的性能优化工作,构建了AIACCDeepGPU等阿里云AI加速套件。在GPU领域深耕近10年,其中负责的自研加速框架AIACC帮助阿里云在2020年在斯坦福DAWNBench竞赛的图像识别(Image Classification on ImageNet)榜单中,包揽了训练时间、训练成本、推理延迟以及推理成本四项第一。

 

3b803e1dcb059473cee4bf1586541f5c.png

 

演讲概要

 

人工智能当前已经迈入了快速发展的阶段,尤其是大语言模型的突飞猛进正给各行各业带来了日新月异的变化。AIGC的场景对云计算AI基础设施与产品也提出了非常鲜明的发展要求。我将从产业一线的角度与大家一起探讨面向AI与大模型计算的场景下,如何构建稳定、安全、弹性的云基础设施架构,以满足云上动辄千亿规模的参数量及极大的算力需求。

 

相关文章
|
1天前
|
机器学习/深度学习 人工智能 算法
构建未来:AI技术在医疗诊断中的应用与挑战
【5月更文挑战第27天】 随着人工智能(AI)技术的快速发展,其在医疗领域的应用已经成为改善诊断准确性和效率的关键驱动力。本文将探讨AI在医疗诊断中的具体应用,包括图像识别、疾病预测以及个性化治疗方案的制定等方面。同时,我们还将讨论这一领域面临的挑战,如数据隐私保护、算法透明度、以及医疗专业人员与AI系统的协同工作等。通过分析最新的研究进展和技术趋势,本文旨在为读者提供一个关于AI技术如何革新医疗诊断领域的全面视角。
|
1天前
|
机器学习/深度学习 人工智能 搜索推荐
AI技术在医疗领域的应用与展望
传统医疗模式存在许多局限性,而人工智能(AI)技术的不断发展为医疗领域带来了全新的可能性。本文将探讨AI技术在医疗领域的应用现状和未来发展方向,以及其对医疗行业的影响。
5 0
|
1天前
|
人工智能
|
1天前
|
机器学习/深度学习 数据采集 人工智能
探索软件测试中的AI辅助技术:未来趋势与挑战
【5月更文挑战第27天】 随着人工智能(AI)的迅速发展,其在软件测试领域的应用正逐步改变传统测试方法,提升测试效率和质量。本文将深入分析AI在软件测试中的应用现状,探讨其如何通过智能化的模式识别、预测分析和自适应学习机制优化测试流程。同时,文章还将讨论引入AI所面临的挑战,包括数据质量、模型泛化能力和解释性问题。最后,对未来AI辅助软件测试的潜在发展趋势进行展望。
|
2天前
|
机器学习/深度学习 存储 人工智能
构建高效AI系统:深度学习模型压缩技术
【5月更文挑战第26天】 在资源受限的应用场景中,深度学习模型往往面临存储空间和计算能力的双重挑战。本文针对这一问题,深入探讨了深度学习模型压缩技术,旨在通过降低模型复杂度来优化其性能。文中首先分析了模型压缩的必要性,随后详细介绍了知识蒸馏、网络剪枝、量化等主流压缩方法,并通过实验验证了所提技术的有效性。最后,文章展望了模型压缩领域的未来发展方向,为相关研究提供了新的视角和思路。
|
2天前
|
弹性计算 安全 微服务
【阿里云云原生专栏】容器网络技术前沿:阿里云Terway网络方案详解
【5月更文挑战第26天】阿里云Terway是高性能的容器网络方案,基于ECS的ENI实现,提供低延迟高吞吐的网络服务。它简化网络管理,实现安全隔离,并与阿里云服务无缝集成。Terway由CNI、Node和Controller组成,适用于微服务、混合云和多租户环境,为企业数字化转型中的复杂网络需求提供强大支持。
22 1
|
3天前
|
存储 弹性计算 人工智能
【阿里云弹性计算】AI 训练与推理在阿里云 ECS 上的高效部署与优化
【5月更文挑战第25天】阿里云ECS为AI训练和推理提供弹性、可扩展的计算资源,确保高性能和稳定性。通过灵活配置实例类型、利用存储服务管理数据,以及优化模型和代码,用户能实现高效部署和优化。自动伸缩、任务调度和成本控制等策略进一步提升效率。随着AI技术发展,阿里云ECS将持续助力科研和企业创新,驱动人工智能新时代。
12 0
|
3天前
|
敏捷开发 Kubernetes Cloud Native
【阿里云云原生专栏】跨云部署与管理:阿里云云原生技术的多云策略
【5月更文挑战第25天】阿里云云原生技术提供多云策略,助力企业高效跨云部署与管理。通过容器化(如Kubernetes)、服务网格等,实现应用一致性与可移植性;统一资源管理,简化跨云操作。挑战包括数据同步、网络问题和平台差异,但阿里云的解决方案为企业在多云环境中实现资源优化、业务敏捷和系统可靠性提供了强有力支持。随着云计算发展,阿里云将持续演进其多云策略,为企业数字化转型提供保障。
14 1
|
4天前
|
人工智能 网络协议 Linux
阿里云迎来AI网络领域两大重要突破
阿里云迎来AI网络领域两大重要突破
18 1
|
4天前
|
人工智能 JavaScript 前端开发
最新季报!阿里云AI相关收入三位数增长
最新季报!阿里云AI相关收入三位数增长
17 1