开发者社区 问答 正文

什么是功耗墙?为什么它成为AIGC对云基础设施的挑战?

什么是功耗墙?为什么它成为AIGC对云基础设施的挑战?

展开
收起
夹心789 2024-07-04 11:59:22 179 分享 版权
1 条回答
写回答
取消 提交回答
  • 功耗墙指的是随着硬件性能的提升,其功耗也随之大幅增加的现象。在AIGC领域,随着大模型的发展,对计算能力的需求急剧上升,而这导致了硬件功耗的显著增加。例如,从NVIDIA的V100到最新的B200,功耗从250瓦增加到了近1000瓦。这种功耗的增加不仅对能源需求提出了更高的要求,也带来了散热和能源效率等问题,因此成为AIGC对云基础设施的一个重要挑战。

    2024-07-04 13:40:22
    赞同 3 展开评论
问答标签:
问答地址: