本文来自云科技时代公众号
2024英伟达GTC大会在整个科技史中的意义，被认为超过了当年史蒂夫·乔布斯的iPod和iPhone发布。在AI将永久改变人类的共识下，GTC 2024在广度、愿景、生态系统等方面都有着深远影响。无独有偶，市场咨询公司IDC在2024年4月和5月分别在深圳与北京举办的2024中国ICT市场趋势论坛，也将定义新的科技史里程碑，特别是云、算力和AI的里程碑。正如同IDC中国区总裁霍锦所言：AI已经改变了IT行业，未来的一切都会不同。
云：人工智能转型的关键
自从2023年大模型与生成式AI在全球迅速出圈以来，几乎每天都在发生着刷新人们认识的新科技。IDC中国区总裁霍锦表示，因为AI转型的原因，科技圈里几乎每一天都在发生不一样的事情，现在每天在考虑的就是“下一个大事件”。以前，IDC经常讲“DX数字化转型”，但“数字化转型”这个词在日新月异的大模型与生成式AI面前似乎失去了魔力。从今年开始，IDC将“数字化转型”统一改为“下一个大事件（The Next Big Thing，TNBT）”。
在大模型与生成式AI的世界中，云仍是关键性的转型力量。根据IDC的调研：2023年，41%的企业将云提供商视为其战略通用人工智能合作伙伴；2023年，60%的企业在通用人工智能基础设施上的支出是通过IaaS实现的；而SaaS交付模式使得消费者和企业能够在几个月而不是几年的时间内掌握通用人工智能。
IDC中国区总裁霍锦强调：对于企业的AI策略来说，第一步就是选对云合作伙伴，而今年所有云公司都需要讲好AI的故事，云公司不仅是云合作伙伴，更是AI转型策略伙伴。
那么，大模型与生成式AI将带来多大的市场机会呢？IDC的2022-2027全球生成式AI市场预测显示，2023年该市场为194亿美元、2024年将达403亿美元、2027年将达到1510亿美元；从细分项来看，2024年，生成式AI基础设施市场将达183亿美元，生成式AI服务市场将达110亿美元，生成式AI应用市场将达63亿美元，生成式AI模型、平台和AD&D（应用开发与部署）市场将达47亿美元。
与此同时，就全球ICT市场来看，根据2024年2月的IDC全球黑皮书（2024年2月），2023年到2024年，预测增长最多的ICT市场（为按固定汇率计算的增长，不包括电信支出和商业服务）仍是IaaS，将达到22%的增长；其次是软件，将达到12%的增长；第三是服务器与存储，将达到10%的增长；IT服务与手机排名第四，仅将达到4%的增长；PC和平板电脑仅达到3%的增长，网络和外设的增长均为负数。
当前全球经济处于下行阶段，然而对于全球ICT市场来说，无论经济情况如何，都不会受到预算削减影响的ICT领域都有哪些？IDC指出分别是：安全、风险与合规；基础设施和IT运营优化计划/项目；AI和自动化措施；应用发展；工作场所解决方案。
展望2025年到2026年：40%的新应用将实现智能化，开发人员将利用人工智能来增强现有应用并创造新的应用案例；60%的企业由于未能设计数据、AI模型和应用程序之间的连接，因此在GenAI（生成式AI）方面表现不佳；对GenAI的更大需求，将迫使市场导向型市场，重新改变目前由单一供应商主导的GenAI芯片市场，并推动终端用户系统价格下降25%；40%的服务项目将包括GenAI支持的交付，从而引发战略、变革和培训方面的人力交付服务的转变，使企业为无处不在的人工智能做好准备；75%的G2000公司将设立审查委员会，对道德和负责任的AI使用进行管理监督。
从IDC的数据和分析来看，IaaS作为云计算的一种主要形式，仍处于增长态势，也是人工智能转型的关键基础设施，IaaS服务商还将是大模型和生成式AI的转型伙伴。同时根据IDC的一项用户调研，在训练大模型时首选私有化部署方式，这也为私有云IaaS带来了新的发展形态。在大模型的席卷下，云智融合的IaaS又是AI算力即服务的重要组成部分，正在孕育新的技术变革。
下一个战场：新一代AI基础设施
自从大模型与生成式AI成为了“下一个大事件”，就给云与IT基础设施带来了巨大的颠覆。现在，ICT行业已经取得共识，大模型与生成式AI带动了现代计算体系，从以CPU为核心的通用计算，迈进了以GPU和加速芯片为核心的加速计算时代。
加速计算已经引发了整个现代计算机体系的深刻变革，多位现代计算机体系的奠基性专家纷纷表示：随着摩尔定律接近极限、登纳德缩放定律失效，自20世纪60年代起源的现代计算机架构正面临着新一轮进化的黄金机遇，而与飞速发展的新硬件和高级语言相匹配的下一代编译器和编译语言，则带来了编译器的黄金时代。
大模型与生成式AI所需要的AI基础设施，不仅仅引发了芯片、服务器等传统硬件的深刻变革与进化，也引发了传统数据中心的进一步质变。在大模型“大力出奇迹”的指导思想下，大算力、大算法加大数据正成为大模型主要的进化路线，而这对集群高速互联、大容量并发存储技术等提出了全新的要求。
IDC认为值得关注的2024大模型发展趋势之一是新一代AI基础设施可能成为下一个“战场”。所谓上一个“战场”，当属大模型算法本身，经过2022年到2023的“百模大战”，IDC认为基础大模型的种类和数量已经趋于收敛，用户对于开源模型和商业化模型的选择各占半壁江山，大模型算法的正“卷”向产业与行业领域，例如金融、教育、工业、医疗等，但在这些细分领域的大模型仍处于探索阶段。
随着大模型算法“战事”进入尾声，面向大模型的AI基础设施正在成为下一个“战场”。根据IDC对于企业大模型用户的调研，企业用户倾向于本地部署计算资源进行大模型训练占58%、模型微调占49%、推理34%，倾向于用公有云进行大模型训练占42%、模型微调占56%、推理42%，倾向于用私有云进行大模型训练占45%、模型微调占51%、推理45%，倾向于用数据中心进行进行大模型训练占36%、模型微调占46%、推理32%。
综合来看，企业更愿意采用本地部署计算资源进行大模型的训练，采用公有云进行模型微调，采用私有云和数据中心进行推理。无论是哪一种部署方式，再结合IaaS的基础设施即服务模式，都带动了整个ICT基础设施向IaaS演进。
那么，什么是新一代AI基础设施呢？实际上自2023年到2024年以来，陆续有多家机构提出了新一代AI基础设施的概念和定义，其中也包括智算中心。例如中国信息通信研究院云计算与大数据研究所、中国智能算力产业联盟、人工智能算力产业生态联盟等机构联合发布了《新一代人工智能基础设施白皮书》，提出新一代AI基础设施的定义——以大模型能力输出为核心平台，集成算力资源、数据服务和云服务，专门设计用于最大限度提升大模型和生成式AI应用的表现。而新一代AI基础设施，将降低大模型开发和应用门槛。
工信部等六部委印发的《算力基础设施高质量发展行动计划》指出，智能计算中心是指通过使用大规模异构算力资源，包括通用算力（CPU）和智能算力（GPU、FPGA、ASIC 等），主要为人工智能应用（如人工智能深度学习模型开发、模型训练和模型推理等场景）提供所需算力、数据和算法的设施。智能计算中心涵盖设施、硬件、软件，并可提供从底层算力到顶层应用使能的全栈能力。
IDC给出的新一代AI基础设施包括了六大方面：新架构、私有云、边缘计算、多云集成、高性能与深化合作伙伴关系。新架构指的是灵活调配CPU和GPU资源；私有云用于解决数据和运营的合规性问题，边缘计算将云服务扩展到远程，多云集成为促进管理和安全的工具，高性能是针对高性能计算和人工智能优化的计算与存储服务，深化合作伙伴是与行业用户、基础设施提供商和ISV搭建桥梁。IDC认为，AI基础设施将主要分为两大市场，分别是集中于大模型训练的公有云，以及于推理的边缘计算，
在新一代AI基础设施的带动下，企业IT基础设施也将向下一代数字化基础设施进化，包括：AI就绪、自主操作、混合和多云以及边缘优化等四大特征，从而为企业提供可信、高弹性、可持续和更加安全的整体基础设施。
在另一项IDC的调研中，面向AI工作负载的混合基础架构选择方面，选择共享公有云的占31%，选择专用非云计算IT基础设施的占26%，选择专用私有云的占22%，选择边缘IT基础设施的占21%。可以看出，专用非云计算IT基础设施包括了当下十分流行的各类智算中心，而共享公有云则纷纷推出大模型AI融合云产品，这两大类主要用于大模型的训练任务，而专用私有云与边缘IT基础设施则主要面向推理场景，当然也有用专用私有云进行模型训练任务，但其造价十分昂贵。
IDC认为，新一代AI的基础设施包括了7大技术方向，分别是适用于特定用途的高级协处理器和加速器、下一代存储、高级超级融合系统、高性能GenAI网络结构、机密计算、可持续的数据中心技术和量子技术。
AI算力服务：或将诞生下一个巨头
新一代AI基础设施代表了下一代IaaS，下一代IaaS又可称为AI算力即服务，包括了公有云算力服务、智算中心、私有云和一体机等多种形态。
2024年4月，根据一项IDC对于企业部署生成式AI的调研，在未来1年内，超过1/3的组织将投资GPU来微调和生成AI模型。也就是说，AI算力的建设将迎来新的高峰。然而大部分中国企业对于AI算力能力的了解并不深入，也就很难对后续的运维、运营服务以及所需要的能耗作全面前瞻的考量：市场需要建立算力建设、验收与运营的评估标准。相应的，整个算力产业链，也面临着重塑或重整。
整个算力产业链分为上游的数据中心、中游的公共云服务厂商以及下游的云和算力服务，在整个算力向大模型AI转型的过程中，也引发了产业链上中下游形态与厂商的巨变。
首先是上游的传统数据中心，需要升级或转型到智算中心，引入更多的GPU算力或其它国产加速算力，处理通用计算和加速计算的工作负载分配、通信互联以及网络架构升级问题，同时还要考虑像数据中心单个机柜的功率密度以及新的软件技术，例如液冷技术。
其次是中游的通用算力即服务，即公共云服务通过虚拟化技术实现共享算力，现在已经很难满足大模型所需的独占式、长时间、大规模集群式应用，因此要求算力即服务供应商不断提供定制化或更优化的基础设施能力，实现从通用算力即服务到AI算力即服务的转变。
第三是下游的云服务生态，以前IDC每半年都会发布云专业和管理服务，围绕云的建设、迁移、开发和应用等跟踪市场变化，未来也将更加关注围绕AI算力的建设、调度和运营以及模型或平台的部署、调优等服务生态的发展。
在上游的传统数据中心领域，智算中心建设正在掀起一波热潮。智算中心的建设方主要为政府和企业。2013年底国家工信部和六个部委发布《算力基础设施高质量发展行动计划》明确提出我国智算算力建设目标——2023年为55EFlops，到2025年翻一倍达105EFlops。
据不完全统计，截止到2024年4月，全国政府主导的智算中心已投产项目数量超过40个，基于半精度FP16算力测算，智算中心总算力规模超过10EFlops。与国家规划的55EFlops相比，可知其余的算力为企业建设，也就是企业是智算中心建设的主体。
在国家倡导之下，地方政府建设智算中心的热情高涨，从地方政府已经发布的相关智能算力供给规划来看，地方政府的规划之和已经远远超出国家预期，仅北京、广东、上海三地到2025年的智能算力总和就将达到131EFlops，远超国家预期的105EFLops。因此地方政府建设的智算中心，更需要思考如何销售，从而真正为社会经济创造价值。
在中游的AI算力即服务领域，包括了公共云服务商的AIaaS，也就是面向大模型AI优化的IaaS，以及专属集群租赁服务。当前，AWS、谷歌、微软、阿里等公共云巨头，都在巨资投入大模型AIaaS，其中既包括采用了NVIDIA高端GPU的AIaaS，也包括了采用自研芯片的AIaaS，而专属集群租赁服务则通常全部采用NVIDIA的GPU。
具体来看大模型训练、微调和推理几个场景对于算力的需求。IDC指出：在大模型训练环节，从无到有地训练基础大模型，为保证有效算力比率，需要采购大规模的计算集群，业界现在一个集群起步至少是128台8卡服务器，由于需求规模大，主要采用专属服务；在大模型微调环节，由于占用的算力少且具备周期性，因此常常采用服务租赁方式，算力需求量通常在2-10台8卡服务器，如果工作量较小且时间周期较短，会采用公共服务，如果周期较长，例如1个月以上，通常采用专属服务；在大模型推理环节，目前推理的工作量较小，占到总用量的5%左右，但即将进入快速增长阶段，目前推理直接采用公共服务模式偏多。
当前，算力的主要用户是大模型厂商，但IDC认为可以关注重点行业模型和智能硬件的未来机会。当前行业大模型算力消耗较少，单次训练算力消耗在2- 20台A100左右，汽车和金融是主要的行业大模型市场，未来可以关注医疗、教育、工业等行业应用以及智能座舱、自动驾驶、服务机器人等智能硬件的市场机会。
当前AI算力即服务的供应商主要分为两大阵营，一大阵营是云厂商，包括阿里、百度、华为、腾讯、中国电信、中国移动、中国联通、火山引擎、京东、青云、优刻得、金山云、并行科技等，这些云厂商的算力储备较多，但由于自用原因，其部分算力开始惜售自用；另一大阵营是其它产业主体纷纷入局，包括AI技术公司、ICT服务商、数据中心服务商以及实体企业等。
IDC认为，中国市场上AI算力即服务百花齐放的状态，将给很多厂商带来新的机会，虽然不少厂商错过了中国云计算高速发展时期，而AI算力即服务可能会再走一遍云计算的道路，有可能产生新的巨头。
在下游的AI相关IT服务方面，从IDC调研的用户需求来看，68%的企业需要混合多云架构的基础设施，未来还是云模式主导市场，除此之外有70%的企业希望构建大模型之后实现每周甚至更频繁的更新，57%的企业希望基于现有大模型之上进行定制化或微调，还有77%的企业希望服务商帮助处理大量非结构化数据的建模和分析。
围绕企业用户需求，衍生出四大类商机：AI算力基础设施建设服务、AI算力调度运营服务、AI基础数据服务和AI算法模型平台构建服务。AI算力基础设施建设服务供应商有华为、百度、浪潮、京东、联想、三大运营商、中国电子等；AI算力调度运营服务供应商有三大运营商、华为、百度、青云等；AI基础数据服务供应商有旷视、科大讯飞、澳鹏、数据堂等；AI算法模型平台构建服务供应商有：大模型平台及服务商百度、阿里、腾讯、华为、商汤、月之暗面、第四范式等，算法模型服务生态刚起步的供应商联想、软通动力、埃森哲、澳鹏、德勤等。
IDC认为，从AI算力建设、调度运营到AI相关数据处理、AI模型和应用落地，将形成一个完整的AI算力服务产业，为老牌服务商业务扩展和新服务商进入带来巨大机遇。
颠覆企业应用的创新方式
大模型和生成式AI的出现，为应用创新带来了新机遇。自2010年开始，全球就进入了数字经济的新发展时代。从2010年开始，全球经历了互联网、移动互联网、社交网络和云计算等数字技术带来的数字经济倍增创新阶段；此后“狭义AI（Narrow AI）”开启了数字经济的平台和社区经济阶段；2023年LLM大模型彻底激活了通用AI，IDC认为，2024年之后，全球将迎来AI无处不在的数字经济全新阶段，即规模化创新阶段。
IDC预计，到2025年，35%的企业将掌握使用生成式AI开发数字产品和服务的技能，从而实现比竞争对手高出两倍的收入增长；预计到2025年，全球2000强企业将把超过40%的核心IT支出用于AI相关计划，从而使产品和流程创新率实现两位数的增长；智算底座和数据平台、大规模数字化运营能力、进行知识体系重构和能力优化的员工，将成为各个行业和企业的标配。
对于企业来说，最终还是需要将大模型和生成式AI技术落地到具体的应用中，才能够创造真正的商业价值。将生成式AI整合到企业的应用程序中有三种途径：对根据需求定制化的应用程序进行大模型和生成式AI能力加持，例如AI加持的行业解决方案；将大模型和生成式AI能力嵌入到已有应用程序中，例如已有应用+智能助手；新的独立应用程序（AI原生应用），例如通过API接口调用大模型和生成式AI能力自动生成文本、图片、代码等，ChatGPT、文心一言等即属于此类AI原生应用。
IDC曾经预测每个企业都将转变成软件企业，而在大模型时代的每个企业也都会变成拥有AI原生能力的数字化创新企业。AI原生应用的出现颠覆了现在企业应用创新的方式——从应用开发进入到了模型开发阶段。
现阶段企业应用开发主要围绕软件规划、资源获取、应用构建和开发、软件部署和使用等过程。而由于AI原生应用是强依赖于AI大模型的，所以现有的应用软件开发逻辑发生巨大改变：经过初始软件规划以后，企业要进行基础大模型的选择，包括选择开源或商业化大模型、大模型提供商、大模型参数、大模型类型、大模型评估等，在选定基础大模型后，输入企业自有数据完成大模型的转换和定制化，生成适合企业的需求和场景的大模型，基于定制化大模型和相应开发工具进行AI原生应用开发，最后获得可用自然语言交互的AI原生应用。
在AI原生应用的全新开发流程中，模型即服务MaaS是一个非常重要的平台，很多AI服务商已经提供了MaaS平台服务，包含大模型开发生命周期工具如数据处理、模型微调、模型调优和评估、模型的部署和推理等，这些能力大幅简化了企业AI原生应用开发门槛。虽然当前MaaS仍处于发展的初级阶段，约占整个生成式AI商业市场5%左右，但在未来将会是生成式AI企业市场重要营收来源，也是企业进行AI原生应用重要选项。
根据IDC，企业生成式AI应用目前包括了生产力类应用、业务职能类应用和行业类应用共三大类，其中生产力类应用又包括个人/团队、业务数据分析、安全和开发等，业务职能类应用又包括前端办公业务和后端办公业务，行业类应用则包括零售、医疗健康、金融、工业、能源、教育等行业。
生产力类应用是生成式AI现阶段落地场景最多，使用率最高，商业化程度较高的一类应用，具体有协同、办公、开发、图像生成、数字人等场景。业务职能类应用大多处于前期实践和培养用户习惯阶段，商业化刚刚开始，具体有人力资源、智能营销、财税、客服、电子商务等场景。而行业应用类在现阶段处在场景创新的高速发展时期，模型厂商、行业方案商、高校和科研院所、行业终端用户等多方共同推进行业细分模型的发展。
对于期望开启生成式AI应用创新之旅的企业，IDC给出如下建议：
第一步选择适合的应用场景。在挖掘所有企业应用场景后进行优先级分类，分别制定短期、中期和长期计划，短期计划选择提升生产力类应用场景，中长期选择对整个业务有变革性影响的场景，这样既可从短期获得收益，也能从长期更好地坚持生成式AI创新应用。
第二步确定技术路线和构建模式，包括模型选择、数据管理方式、基础架构以及云应用方式等。
第三步制订监督和治理体系。生成式AI带来了数据隐私安全、偏见和误导内容等，各国政府也正在逐步制定相关政策，规范化生成式AI的使用，企业应该未雨绸缪，在应用开发之初制定监督和治理体系，以防未来的法律或者政策风险。
第四成本规划。AI投资并不是一次性过程，不仅需要前期大模型训练的投资，在生成式AI应用的用户量上来以后，也需要在推理方面进行大量投资，所以企业应该对AI投资增长有预期，制定中长期投资计划。
第五步重构员工能力。对员工进行培训和能力培养，保证项目顺利进行。
值得注意的是，根据IDC的用户调研，28%的企业在6到9个月之内看到了投资生成式AI的回报，也就是说至少需要6-9个月才能让生成式AI的投资见效，31%的企业在12-18个月内看到了投资生成式AI的回报，有22%的企业在18-24个月看到了生成式AI投资的回报，还有18%的企业在2到3年才看到了生成式AI的投资回报。
传统企业IT项目的投资回报周期为3-5年，因此生成式AI的投资回报周期更短，投资回报率更高。但在另一方面，大模型与生成式AI技术的更新速度极快，几乎以天为单位推陈出新，因此整个企业IT基础设施和架构也面临着一次全面的重构，以适应大模型与生成式AI的快速技术更新，同时解决企业落地生成式AI项目至少需要6-9个月甚至1年周期的矛盾。
根据IDC的用户调研，在选择生成式AI技术合作伙伴的考量因素时，59%的企业选择能“帮助实现可衡量的业务成果”，55%的企业选择“数据安全性”，52%的企业选择“生成内容的准确性”，46%的企业选择“行业知识积累”，44%的企业选择“生成式AI品牌价值”，43%的企业选择“帮助企业更快实现创新”。因此，“帮助客户实现可衡量的业务成果”，是生成式AI技术供应商的首要商业化能力。
ICT产业进入存量市场阶段
虽然大模型和生成式AI产业看起来很热闹，但对于ICT产业从业者来说，整个ICT产业已经进入了存量市场阶段，即使是云计算这个过去20年高速增长的领域也已经进入了存量市场阶段，领头的超级公有云厂商已经显现出了增长乏力的态势，IDC市场调研数据显示，2023年下半年中国公有云IaaS+PaaS的同比增长率为9.5%，其中IaaS同比增长7.5%，中国公有云服务市场进入战略调整期。
当前，ICT市场整体进入存量阶段，一方面是因为全球经济下行，特别是三年疫情以及国际贸易博弈等原因，另一方面是各类IT产品与服务的普及率已经接近最高点达到市场饱和，因此整体市场进入存量阶段。
IDC将市场阶段划分为小幅增长的存量市场、高速增长的增量市场、动荡增长的新兴市场和下滑增长的衰退市场，存量市场意味着IT产品与服务的市场普及率已经达到顶点普及率的80-90%，增量增长意味着IT产品与服务的市场普及率达到顶点普及率的10-80%之间，新兴市场意味着IT产品与服务的市场普及率低于或等于顶点普及率的10%，衰退市场意味着IT产品与服务的市场普及率已经达到顶点普及率的90%以上。
根据IDC的2024年V1版全球第三平台黑皮书，处于存量市场的IT产品和服务有：显示器、传统IT服务、平板电脑、传统服务器/存储、智能手机、3D打印机、传统网络设备、固网数据服务、传统笔记本、移动数据服务、可穿戴设备、IoT连接、企业移动软件等；处于增量市场的IT产品和服务有：机器人相关的网络设备、机器人相关的OT服务、IoT相关的服务/存储、IaaS、机器人相关的IT服务、机器人系统与无人机、AI相关的商业服务、商用机器人软件、AI相关的IaaS、AI相关的IT服务、机器人相关的商业服务、安全硬件设备、AI平台与应用等，处于衰退市场的有：功能手机、固网语音、传统网络设备、传统台式机、传统IT服务、传统外设、移动语音服务、传统软件等。
IDC提示，增量市场的增长率虽然高但市场规模未必大，衰退市场虽然处于下滑增长中但市场规模可能保持稳定、竞争可能不太激烈，厂商反而也有机会。
2024年全球ICT支出（含第三平台技术）规模为6.46万亿美元，美国占全球ICT市场的35.4%、中国占13.9%。而生成式AI作为一个新兴市场，无疑正在享受高速增长带来的高度市场关注。根据IDC的2024年V1版《全球人工智能和生成式人工智能支出指南》数据，2024年全球生成式AI市场将达387.9亿美元、占整体AI市场比例为16.7%，到2027年将达1454.2亿美元、占整体AI市场比例为28.4%，2024年中国生成式AI市场将达35.3亿美元、占整体AI市场比例为16.0%，到2027年将达129.3亿美元、占整体AI市场比例为32.3%，中国生成式AI市场预计2024-2027年复合增长率54.1%。
生成式AI正在创造新的市场，包括：生成式AI就绪的基础架构；生成式AI模型、平台与数据；生成式AI安全、治理与信任；生成式AI体验编排的应用；生成式AI服务转型。中国生成式AI市场在2024年可达到388亿美元，其中：服务器、存储、IaaS市场可达148亿美元，平台、基础软件和工具市场可达67亿美元，应用软件市场可达63亿美元，IT服务和商业服务市场可达110亿美元。
从2024年到2027年共四年的时间里，全球ICT市场累积总规模达29万亿美元、生成式AI总体经济影响达累积总规模达11万亿美元、生成式AI支出累积总规模达1.45万亿美元；而相应中国ICT市场四年累积总规模将达4万亿美元、生成式AI总体经济影响达累积总规模达2万亿美元、生成式AI支出累积总规模达1235亿美元。
在生成式AI所创造的新市场中，边缘服务器和液冷服务器正在成为高速增长的细分市场。根据IDC《中国半年度边缘计算市场（2023全年）跟踪》报告的数据显示，2023年中国边缘计算服务器市场继续保持稳步上升，同比增长29.1%；IDC预测，到2028年，整体中国边缘计算服务器市场规模将达到132亿美元；而作为边缘计算的重要组成部分，2023年定制边缘服务器规模已达2.4亿美元，相较2022年，同比增长16.8%，边缘定制服务器市场中占比较大的厂商分别是浪潮信息、联想、华为、新华三等服务器厂商。
另根据IDC《中国半年度液冷服务器市场（2023全年）跟踪》报告的数据显示，2023全年中国液冷服务器市场规模达到15.5亿美元，与2022年相比增长52.6%，其中95%以上均采用冷板式液冷解决方案；IDC预计，2023-2028年，中国液冷服务器市场年复合增长率将达到45.8%，2028年市场规模将达到102亿美元；2023年市场占比前三的厂商分别是浪潮信息、超聚变和宁畅，占据了七成以上的市场份额。
再次回顾生成式AI对于整体ICT产业的影响：ICT产业正在进入AI无所不在的大转型阶段；到2025年，全球2000强企业将把超过40%的核心IT支出用于AI相关计划，从而使产品和流程创新率实现两位数的增长；到2026年，全球技术提供商将50%的研发、人员配备和资本支出投资分配给人工智能/自动化；到2025年，40%的服务将包括生成式AI支持的交付，影响从合同谈判到IT运营再到风险评估的方方面面。
总结而言：站在2024年，业界比2023年更加清晰的看到云、算力与AI的前景。当前，ICT产业进入存量市场阶段，生成式AI正在成为新的增长动力，生成式AI带动整个云与AI市场的强劲增长，新一代AI基础设施将成为下一个战场，而算力服务特别是各类智算中心作为中国特色将可能产生新的巨头。2024的IDC中国ICT市场趋势论坛，将定义云、算力与AI的新里程碑，甚至将定义科技史上的新里程碑。
