UI 设计团队协作有妙招！哪类办公软件能拔高效率？
本文介绍了6款适合游戏原画团队的高效协作办公软件，包括板栗看板及5款国外软件。这些软件通过可视化任务管理、灵活的任务分配、强大的文件管理和版本控制、便捷的沟通机制等功能，帮助团队提升创作效率，促进成员间无缝协作，适应不同规模和需求的游戏原画项目。
云服务器成本优化深度解析与实战案例
本文深入探讨了云服务器成本优化的策略与实践，涵盖基本原则、具体策略及案例分析。基本原则包括以实际需求为导向、动态调整资源、成本控制为核心。具体策略涉及选择合适计费模式、优化资源配置、存储与网络配置、实施资源监控与审计、应用性能优化、利用优惠政策及考虑多云策略。文章还通过电商、制造企业和初创团队的实际案例，展示了云服务器成本优化的有效性，最后展望了未来的发展趋势，包括智能化优化、多云管理和绿色节能。
【AI系统】推理流程全景
本文概述了神经网络模型在云侧和边缘侧部署的特点与挑战。云侧部署凭借强大的计算能力和集中的数据管理，适合高吞吐量应用，但面临高成本、网络延迟等问题；边缘侧部署则通过模型优化和硬件加速降低延迟和能耗，适用于资源受限的环境，但存在算力限制、数据分散等挑战。两种方式各有优劣，需根据实际需求选择。
【AI系统】推理系统介绍
推理系统是一种专门用于部署和执行神经网络模型预测任务的AI系统，类似于Web服务或移动端应用，但专注于AI模型的部署与运行。它支持将模型部署到云端或边缘端，处理用户请求。本文介绍了训练与推理的基本流程、两者差异、推理系统的优化目标及挑战，并对比了推理系统与推理引擎的流程结构，强调了设计推理系统时需考虑的优化目标，如灵活性、延迟、吞吐量、高效率、扩展性和可靠性。同时，文章还讨论了推理系统与推理引擎的区别，帮助读者深入了解推理引擎的核心技术。
【AI系统】推理系统引言
本文深入探讨了推理系统与推理引擎的概念及其实现方法，涵盖模型小型化、离线优化压缩、在线部署与优化等多个方面。通过具体应用实例，如人脸Landmark识别、人脸检测与手势识别等，展示了推理系统在实际场景中的强大功能。同时，文章还讨论了维护推理系统时需考虑的关键问题，包括API设计、数据质量保障、网络延迟优化等，为读者提供了全面的理论与实践指南。
【AI系统】CANN 算子类型
本文介绍了算子的基本概念及其在编程和数学中的作用，重点探讨了CANN算子在AI编程和神经网络中的应用，特别是华为CANN算子在AI CPU上的架构和开发要求。CANN是华为推出的异构计算架构，旨在优化AI处理器的计算效率，支持多种AI框架，涵盖AI Core和AI CPU算子，以适应不同类型的计算需求。文中还详细说明了AI CPU算子的开发流程和适用场景，为开发者提供了宝贵的指导。
【AI系统】Auto-Tuning 原理
本文探讨了在多样化硬件平台上部署深度神经网络（DNN）时，传统算子库面临的挑战及解决方案。随着硬件平台的多样化和快速迭代，手动编写高性能算子库变得日益困难。文中介绍了基于TVM的三种自动调优系统——AutoTVM、Ansor和Meta Scheduler，它们通过自动生成高性能算子，有效解决了传统方法的局限性，提高了DNN在不同硬件平台上的执行效率。
【AI系统】算子手工优化
本文深入探讨了手写算子调度的关键因素及高性能算子库的介绍，通过计算分析指标和 RoofLine 模型评估计算与访存瓶颈，提出了循环、指令、存储三大优化策略，并介绍了 TVM 和 Triton 两种 DSL 开发算子的方法及其在实际应用中的表现。
【AI系统】计算与调度
本文探讨了计算与调度的概念，特别是在神经网络和图像处理中的应用。通过分离算法定义和计算组织，Halide 等工具能够显著提升图像处理程序的性能，同时保持代码的简洁性和可维护性。文章详细介绍了计算与调度的基本概念、调度树的构建与约束，以及如何通过调度变换优化计算性能。此外，还讨论了自动调优方法在大规模调度空间中的应用，展示了如何通过探索和预测找到最优的调度方案。
Ascend推理组件MindIE LLM
MindIE LLM是基于昇腾硬件的大语言模型推理组件，提供高性能的多并发请求调度与优化技术，如Continuous Batching、PageAttention等，支持Python和C++ API，适用于高效能推理需求。其架构包括深度定制优化的模型模块、文本生成器和任务调度管理器，支持多种模型框架和量化方式，旨在提升大规模语言模型的推理效率和性能。