AI芯片

首页 标签 AI芯片
# AI芯片 #
关注
1320内容
云数据中心专用处理器CIPU正式发布
"在峰会上正式发布的云数据中心专用处理器CIPU(Cloud infrastructure Processing Units), 作为一款专门为新型云数据中心设计的专用处理器,CIPU的使命就是替代传统CPU,成为云时代数据中心的处理核心。在这个全新体系架构下,CIPU向下对数据中心的计算、存储、网络资源快速云化并进行硬件加速,向上接入飞天云操作系统,将全球数百万台服务器连成一台超级计算机。"
2023年阿里云GPU服务器租用价格表,附阿里云GPU服务器常见问题解答
2023年阿里云GPU服务器租用价格表,附阿里云GPU服务器常见问题解答。阿里云GPU服务器租用价格表包括包年包月价格、一个小时收费以及学生GPU服务器租用费用,阿里云GPU计算卡包括NVIDIA V100计算卡、T4计算卡、A10计算卡和A100计算卡,GPU云服务器gn6i可享受3折优惠,阿里云百科分享阿里云GPU服务器租用价格表、GPU一个小时多少钱以及学生GPU服务器收费价格表:
前言 | AI工程化部署
要达到AI工程化部署的诸多要求,需要除了AI算法以外的诸多技术,因此结合实际的项目经验,希望总结一些在AI工程化部署的有用技术供大家参考
云端开炉,线上训练,Bert-vits2-v2.2云端线上训练和推理实践(基于GoogleColab)
对于笔者这样的穷哥们来讲,GoogleColab就是黑暗中的一道光,就算有训练时长限制,也能凑合用了,要啥自行车?要饭咱也就别嫌饭馊了,本次我们基于GoogleColab在云端训练和推理Bert-vits2-v2.2项目,复刻那黑破坏神角色莉莉丝(lilith)。
阿里云与麒麟软件签署全面合作协议
近日,麒麟软件与阿里云签署全面合作协议。双方明确建立长期、稳定的战略合作伙伴关系,在操作系统+人工智能领域展开深度合作,共同推动信息产业技术高速发展。
服务化参数调优实战
本文介绍了服务化性能调优的全流程,以Llama3-8B模型为例。首先需完成MindIE环境安装、下载模型权重与测试数据集。接着通过计算npuMemSize和maxBatchSize,maxPrefillBatchSize(272)与maxPrefillTokens,并更新配置进行性能测试。结果显示,参数调优后吞吐量提升18%。此方法为大模型性能优化提供了实用指导。
免费试用