# GPU云服务器 #
0
关注
7695内容
深度学习之测量GPU性能的方式
在深度学习中，测量GPU性能是一个多方面的任务，涉及运行时间、吞吐量、GPU利用率、内存使用情况、计算能力、端到端性能测试、显存带宽、框架自带性能工具和基准测试工具等多种方法。通过综合使用这些方法，可以全面评估和优化GPU的性能，提升深度学习任务的效率和效果。
使用NVIDIA NIM在阿里云ACK中加速LLM推理
介绍在阿里云ACK集群上结合AI套件能力快速部署NVIDIA NIM模型推理服务，同时提供全面的监控指标和实现弹性伸缩。
一文揭秘｜预训练一个72b模型需要多久？
本文讲述评估和量化训练大规模语言模型，尤其是Qwen2-72B模型，所需的时间、资源和计算能力。
MinerU-大语言语料处理神器，CPU/GPU均可跑，开源免费“敲”好用
在7月4日举行的WAIC 2024科学前沿主论坛上，书生·浦语2.5正式发布，面向大模型研发与应用的全链条工具体系同时迎来升级。
硬件加速器中的神经网络
硬件加速器中的神经网络指的是通过专门设计的硬件设备来加速深度神经网络（DNN）和其他机器学习模型的训练和推理过程。
Wound/Wait死锁安全的互斥锁设计 【ChatgGPT】
Wound/Wait死锁安全的互斥锁设计 【ChatgGPT】
基于阿里云函数计算（FC）x 云原生 API 网关构建生产级别 LLM Chat 应用方案最佳实践
本文带大家了解一下如何使用阿里云Serverless计算产品函数计算构建生产级别的LLM Chat应用。该最佳实践会指导大家基于开源WebChat组件LobeChat和阿里云函数计算（FC）构建企业生产级别LLM Chat应用。实现同一个WebChat中既可以支持自定义的Agent，也支持基于Ollama部署的开源模型场景。
GPU加速TensorFlow模型训练：从环境配置到代码实践的全方位指南，助你大幅提升深度学习应用性能，让模型训练不再等待
【8月更文挑战第31天】本文以随笔形式探讨了如何在TensorFlow中利用GPU加速模型训练，并提供了详细的实践指南。从安装支持GPU的TensorFlow版本到配置NVIDIA CUDA及cuDNN库，再到构建CNN模型并使用MNIST数据集训练，全面展示了GPU加速的重要性与实现方法。通过对比CPU与GPU上的训练效果，突显了GPU在提升训练速度方面的显著优势。最后，还介绍了如何借助TensorBoard监控训练过程，以便进一步优化模型。
免费试用