开发者社区> 问答> 正文

什么是功耗墙?为什么它成为AIGC对云基础设施的挑战?

什么是功耗墙?为什么它成为AIGC对云基础设施的挑战?

展开
收起
夹心789 2024-07-04 11:59:22 67 0
1 条回答
写回答
取消 提交回答
  • 功耗墙指的是随着硬件性能的提升,其功耗也随之大幅增加的现象。在AIGC领域,随着大模型的发展,对计算能力的需求急剧上升,而这导致了硬件功耗的显著增加。例如,从NVIDIA的V100到最新的B200,功耗从250瓦增加到了近1000瓦。这种功耗的增加不仅对能源需求提出了更高的要求,也带来了散热和能源效率等问题,因此成为AIGC对云基础设施的一个重要挑战。

    2024-07-04 13:40:22
    赞同 3 展开评论 打赏
问答标签:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
新一代AIGC图像应用 在零售行业的实践成果 立即下载
云原生场景下, AIGC模型服务的工程挑战和应对 立即下载
关于《探索AIGC下的软件工程新范式》的联合声明 立即下载