大成鹏通信_个人页

2024年09月

• 09.29 16:36:26
  发表了文章 2024-09-29 16:36:26

  使用光模块Breakout功能减少AI训练中断故障

  本文介绍了使用大成鹏通信光模块Breakout功能可以减少AI训练中断故障的问题。通过Breakout功能，单通道故障不会中断其他通道的数据转发，有效解决了传统光模块因单通道故障导致的训练中断问题。同时，还介绍了如何利用Breakout功能进行更灵活的AI基础网络组网。

2024年08月

• 08.16 09:30:13
  发表了文章 2024-08-16 09:30:13

  合理使用光互联产品减少万卡集群高性能网络中TOR交换机上行网络的ECMP哈希冲突

  本文通过分析万卡集群高性能网络TOR层的ECMP哈希冲突，介绍如何通过使用有源光缆AOC和无源铜缆DAC分支线缆产品来减少ECMP哈希冲突的方法。

2024年06月

• 06.11 11:08:10
  发表了文章 2024-06-11 11:08:10

  以LLaMa 65B模型训练实例来计算AI/HPC算力光模块数量

  本文介绍了如何根据LLaMa 65B模型训练需求计算所需的AI/HPC光模块数量。在案例中，使用2048个A100 GPU，单GPU算力为156 TFLOPS。模型算力需求为546*10^21 FLOPS，预计训练时间为20天。采用两层Fat-Tree网络架构，需1024个400G网卡，48台交换机，若全用400G光模块则需4096个，交换机间2048个，网卡间1024个。大成鹏通信提供200G至800G的解决方案，并提供咨询与支持服务。