AI时代云基础设施的技术创新与展望丨ODCC2023

简介: AI时代云基础设施的技术创新与展望丨ODCC2023

【阅读原文】戳:AI时代云基础设施的技术创新与展望丨ODCC2023


由开放数据中心委员会(简称“ODCC”)主办,阿里巴巴、腾讯、百度、中国电信、中国移动、中国信息通信研究院(简称“中国信通院”)、美团、京东等承办的“2023开放数据中心大会”在北京举办,阿里云智能基础设施事业部总经理周明及相关技术专家受邀参会。2023年被认为是通用人工智能(Artificial General Intelligence,AGI)的元年,相关技术和应用的发展正在对云基础设施行业产生影响,作为全球领先的云计算及人工智能科技公司,阿里云在“2023开放数据中心大会”分享相关的思考实践,以及对未来的展望。


全新一代AI时代云基础设施:高算力密度,高线性扩展


阿里云智能基础设施事业部总经理周明在大会主论坛进行主题分享《再出发:面向AI时代的云基础设施》,周明先生认为,以大模型为代表的技术和应用正在快速发展,带来了全新的业务负载特征,大模型需要更高的算力密度,同时计算性能需要线性扩展,为数据中心网络带宽、网络架构、网络性能、I/O性能、电力密度、散热效率、监控运维等一系列问题,因此云基础设施需要进行全面重构。阿里云推出的智能计算集群灵骏可以实现10万卡规模横向扩展,单个任务最大可调度上万张计算卡,能够为万亿级参数的模型提供服务,该集群基于最新的一代AI集群网络HPN 7.0实现。


图丨阿里云智能基础设施事业部-总经理 周明


可预期网络,AI规模和扩展性的密码


阿里云智能基础设施事业部-灵骏智能计算集群负责人王超在网络论坛分享了《AI Infra网络设计及思考》,AI时代到来后,高性能网络的话题逐渐趋热,王超先生认为,除了计算卡之外,高性能网络技术是AI模型规模和扩展性的密码,虽然短期内需要解决规模提升带来的一系列问题,但是问题背后是行业的巨大发展机遇,与传统“尽力而为”的网络不同,AI时代需要可用性、性能“可预期”的网络,HPN 7.0正是阿里云在这个方向上的实践,通过端网融合的技术思想,以自研软硬件在路径选择、流量控制、故障恢复和监控、网络拓扑和架构等维度进行攻关,并且开展了规模化的可预期网络技术产品实践。


图丨HPN 7.0:新一代AI集群网络架构


数据中心智能运维系统,大幅提升数据中心供电稳定性


阿里云智能基础设施事业部-高级技术专家刘国良在智能运营分论坛分享了《数据中心供电仿真系统及其应用》,数据中心的供电系统需给IT设备提供7*24不间断的电力供应,在供电架构中使用了大量的冗余、备自投等设计,这些设计增加了系统的稳定性和健壮性,同时也使系统的复杂性成倍增加。刘国良先生认为在这种背景下如何利用数字化技术解决应急过程中故障快速定位、变更早期风险识别和过程管控、演练如何有效提升人员技能等是迫切需要解决的难题。阿里云研发的数据中心智能运维系统将数据中心电力设备实时监控、电力系统拓扑、电力仿真系统、变更管理及事件应急结合到一起,并有效解决上述难题,使得数据中心的稳定性大幅提升。


图丨阿里云智能基础设施事业部-高级技术专家 刘国良


蓄电池智能诊断,大幅度提升运维效率


阿里云智能基础设施事业部-高级技术专家刘巍在智能运营分论坛分享了《数据中心蓄电池智能诊断与运维技术》,刘巍先生认为目前数据中心电池运维,过度依赖于现场检查的精细度、频次,但仍然无法准确预测电池的性能。通过引入智能诊断和运维手段,可以对铅酸电池进行均充、放电、浮充全状态的异常分析&故障识别,可对放电异常&亚健康、内阻偏高异常等进行预测。以上智能诊断手段结合智能告警、异常识别、均充提醒等,有效减少运维人员的工作量。通过电池状态预测、内短路检测、故障报警和下行控制等模块也可实现锂电池系统的智能化诊断与运维。


图丨阿里云智能基础设施事业部-高级技术专家 刘巍


业界领先的液冷技术储备,为AI算力可持续发展提供路径


阿里云智能基础设施事业部-资深技术专家钟杨帆在液冷创新实践论坛分享了《绿色液冷技术推动AI算力可持续发展》,他在演讲中提到,在ChatGPT为代表的AI大模型迅速崛起,各类生成式人工智能应用的涌现式爆发,引发智能算力需求剧增,同时也带来能耗和散热需求的突发暴涨。作为全球领先的云计算及人工智能(Artificial Intelligence,AI)科技公司,阿里云一直致力于探索不同技术方案,不遗余力地寻求创新与突破,在液冷技术研究方面迈入行业前列,并通过与合作伙伴多年以来开展的产品与技术合作,打造出领先的解决方案,实现了落地应用。在碳达峰、碳中和等节能环保政策的推动下,以先进散热技术构建可持续的绿色算力输出,已成为更多数据中心孜孜以求的目标。


刷新服务器模块化技术规范,助力供应链提效


阿里云智能基础设施事业部-服务器硬件技术专家贺永宝在服务器技术论坛分享了《OSSP主板技术规范和Riser cable技术规范发布及解读》。OSSP(Open Server Standardization Project)项目是由阿里巴巴、美团和英特尔在ODCC联合发起的服务器开放项目。OSSP项目借鉴了PC“攒机”的理念,期望在服务器领域能够打造标准化模块化的服务器部件,适用于不同的服务器机型和不同的服务器用户,获得规模化成本收益和可供应性安全保障。此次发布的《OSSP主板技术规范2.0》以模块化和标准化为核心理念,主板仅保留CPU、内存和BMC三大核心功能组件,最大限度满足主板在服务器机箱内的灵活应用,为实现OSSP主板规模化应用奠定基础。同时发布的《OSSP Riser cable技术规范》,将riser pcb归一为单一形态,通过pcb焊接cable的方式,减短高速信号转接链路,SI性能提升,与主板及扩展卡连接更加灵活,实现服务器前、后出线架构兼容,为Risercable的低成本规模化供应奠定基础。


图丨阿里云智能基础设施事业部-服务器硬件技术专家 贺永宝


荣获多项ODCC十周年特别奖项


阿里云主导的《数据中心运维机器人技术白皮书项目》、网络开放项目《S³IP项目》获评ODCC十周年卓越项目奖,《下一代数据中心高速铜缆技术项目》、云服务器方升架构获评ODCC十周年杰出项目奖,IDC《电力仿真系统及其应用白皮书》获得ODCC优秀项目奖,阿里云智能基础设施事业部陈亮、贺永宝、刘丹、刘巍、任华华和钟杨帆分获ODCC优秀项目经理奖。


作为开放数据中心委员会(ODCC)的十周年庆典,本次大会汇聚了众多行业专家和领导者,共同探讨数据中心和人工智能领域的最新技术发展和产业趋势,阿里云展示了云基础设施方面的领先实力和创新成果,包括数据中心可预期网络、数据中心供电仿真系统、蓄电池智能诊断、液冷技术以及服务器模块化技术规范等多个方面;此外为了肯定持续的技术创新和行业贡献,在本次大会上阿里云被授予多项荣誉。作为ODCC的重要合作伙伴,阿里云将继续秉持开放、合作、创新、共赢的精神,并与产业同仁一起,共同推动云计算和人工智能技术的发展,为全球经济和社会发展作出更大贡献。


我们是阿里巴巴云计算和大数据技术幕后的核心技术输出者。

欢迎关注 “阿里云基础设施”同名微博知乎

获取关于我们的更多信息~

相关文章
|
5天前
|
人工智能 自然语言处理 机器人
文档智能与RAG技术如何提升AI大模型的业务理解能力
随着人工智能的发展,AI大模型在自然语言处理中的应用日益广泛。文档智能和检索增强生成(RAG)技术的兴起,为模型更好地理解和适应特定业务场景提供了新方案。文档智能通过自动化提取和分析非结构化文档中的信息,提高工作效率和准确性。RAG结合检索机制和生成模型,利用外部知识库提高生成内容的相关性和准确性。两者的结合进一步增强了AI大模型的业务理解能力,助力企业数字化转型。
35 3
|
14天前
|
人工智能 搜索推荐 安全
AI技术在医疗领域的应用与挑战
【10月更文挑战第27天】 本文探讨了人工智能(AI)在医疗领域的应用,包括疾病诊断、药物研发和患者管理等方面。同时,也分析了AI在医疗领域面临的挑战,如数据隐私、伦理问题和技术局限性等。通过对这些方面的深入分析,我们可以更好地理解AI在医疗领域的潜力和发展方向。
118 59
|
3天前
|
人工智能 文字识别 运维
AI多模态的5大核心关键技术,让高端制造实现智能化管理
结合大模型应用场景,通过AI技术解析高端制造业的复杂设备与文档数据,自动化地将大型零件、机械图纸、操作手册等文档结构化。核心技术包括版面识别、表格抽取、要素抽取和文档抽取,实现信息的系统化管理和高效查询,大幅提升设备维护和生产管理的效率。
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
思通数科AI平台在尽职调查中的技术解析与应用
思通数科AI多模态能力平台结合OCR、NLP和深度学习技术,为IPO尽职调查、融资等重要交易环节提供智能化解决方案。平台自动识别、提取并分类海量文档,实现高效数据核验与合规性检查,显著提升审查速度和精准度,同时保障敏感信息管理和数据安全。
62 11
|
8天前
|
人工智能 自然语言处理 算法
企业内训|AI/大模型/智能体的测评/评估技术-某电信运营商互联网研发中心
本课程是TsingtaoAI专为某电信运营商的互联网研发中心的AI算法工程师设计,已于近日在广州对客户团队完成交付。课程聚焦AI算法工程师在AI、大模型和智能体的测评/评估技术中的关键能力建设,深入探讨如何基于当前先进的AI、大模型与智能体技术,构建符合实际场景需求的科学测评体系。课程内容涵盖大模型及智能体的基础理论、测评集构建、评分标准、自动化与人工测评方法,以及特定垂直场景下的测评实战等方面。
43 4
|
8天前
|
机器学习/深度学习 人工智能 算法
基于AI的性能优化技术研究
基于AI的性能优化技术研究
|
12天前
|
机器学习/深度学习 人工智能 算法
AI技术在医疗健康领域的应用与挑战####
本文旨在探讨人工智能(AI)技术在医疗健康领域的创新应用及其面临的主要挑战。通过深入分析AI如何助力疾病诊断、治疗方案优化、患者管理及药物研发,本文揭示了AI技术在提升医疗服务质量、效率和可及性方面的巨大潜力。同时,文章也指出了数据隐私、伦理道德、技术局限性等关键问题,并提出了相应的解决策略和未来发展方向。本文为医疗从业者、研究者及政策制定者提供了对AI医疗技术的全面理解,促进了跨学科合作与创新。 ####
|
11天前
|
人工智能 算法
AI技术在医疗领域的应用及其挑战
【10月更文挑战第31天】本文将探讨AI技术在医疗领域的应用及其面临的挑战。我们将从AI技术的基本概念开始,然后详细介绍其在医疗领域的应用,包括疾病诊断、药物研发、患者护理等方面。最后,我们将讨论AI技术在医疗领域面临的挑战,如数据隐私、算法偏见等问题。
|
11天前
|
存储 人工智能 文字识别
AI与OCR:数字档案馆图像扫描与文字识别技术实现与项目案例
本文介绍了纸质档案数字化的技术流程,包括高精度扫描、图像预处理、自动边界检测与切割、文字与图片分离抽取、档案识别与文本提取,以及识别结果的自动保存。通过去噪、增强对比度、校正倾斜等预处理技术,提高图像质量,确保OCR识别的准确性。平台还支持多字体识别、批量处理和结构化存储,实现了高效、准确的档案数字化。具体应用案例显示,该技术在江西省某地质资料档案馆中显著提升了档案管理的效率和质量。
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
医疗行业的语音识别技术解析:AI多模态能力平台的应用与架构
AI多模态能力平台通过语音识别技术,实现实时转录医患对话,自动生成结构化数据,提高医疗效率。平台具备强大的环境降噪、语音分离及自然语言处理能力,支持与医院系统无缝集成,广泛应用于门诊记录、多学科会诊和急诊场景,显著提升工作效率和数据准确性。