全面解析 | 大模型时代如何利用弹性计算服务应对大算力挑战
2023年6月20日，阿里云弹性计算团队与智东西公开课联合出品的系列课程「阿里云弹性计算技术公开课」正式播出，阿里云弹性计算产品专家张新涛作为该系列课程首位主讲人，带来了主题为《大模型时代如何应对大算力挑战》的课程分享，本次课程也在阿里云官网、钉钉视频号、阿里云官方视频号、阿里云开发者视频号、阿里云创新中心直播间&视频号等多平台同步播出。
前言 | AI工程化部署
要达到AI工程化部署的诸多要求，需要除了AI算法以外的诸多技术，因此结合实际的项目经验，希望总结一些在AI工程化部署的有用技术供大家参考
开启智能新时代：2024年中国AI大模型产业发展报告
【4月更文挑战第6天】2024年，中国AI大模型产业蓬勃发展，成为科技和经济增长新引擎。人民网财经研究院与至顶科技联合发布报告，详述产业发展背景、现状、挑战与趋势。政策支持下，AI大模型技术进步显著，在办公、制造等领域广泛应用。报告提及云侧与端侧大模型，以及科大讯飞、百度、阿里巴巴等企业的大模型案例。挑战包括算力瓶颈、资源消耗及训练数据不足。未来趋势包括云侧与端侧模型的分化、通用与专用模型并存、大模型开源及芯片技术升级。
阿里云引领智算集群网络架构的新一轮变革
11月8日至10日，CCF ChinaNet（中国网络大会）在江苏张家港召开，众多院士、教授和技术领袖共聚一堂，探讨网络未来发展方向。阿里云研发副总裁蔡德忠发表主题演讲，展望智算技术发展趋势，提出智算网络架构变革的新思路，发布高通量以太网协议和ENode+超节点系统规划，引起广泛关注。阿里云HPN7.0引领智算以太网生态蓬勃发展，成为业界标杆。未来，X10规模的智算集群将面临新的挑战，Ethernet将成为主流方案，推动Scale up与Scale out的融合架构，提升整体系统性能。245/300
飞桨x昇腾生态适配方案：03_模型训练迁移
本案例以PaddleOCRv4模型为例，详细介绍了将模型迁移到NPU的完整流程。迁移过程中需确保模型功能在新硬件上无误，重点关注偶发性错误及长时间运行时可能出现的问题，并通过日志辅助定位问题。文档涵盖环境搭建、数据集准备、模型配置、训练启动及常见问题排查等内容。例如，通过设置环境变量排查缺失算子，处理Paddle版本兼容性问题，以及解决进程残留等。适合希望将OCR模型部署到NPU的开发者参考。