# GPU云服务器 #
1
关注
7834内容
NVIDIA Triton系列01-应用概论
NVIDIA Triton推理服务器为AI服务类应用提供全面解决方案，支持多种处理器、框架及模型类型，优化部署与性能，适用于在线推荐、图像分类等场景。文中介绍了Triton在微软Teams、微信视觉应用及腾讯PCG在线推理中的成功案例，展示其在提升性能、降低成本方面的显著效果。
Nvidia TensorRT系列01-TensorRT的功能1
NVIDIA TensorRT是一个高性能深度学习推理优化器和运行时，支持C++和Python API。其编程模型分为构建阶段和运行时阶段，前者优化模型，后者执行推理。TensorRT支持多种数据类型和精度，包括FP32、FP16、INT8等，并提供插件机制以扩展支持的操作。
NVIDIA Triton系列02-功能与架构简介
本文介绍了NVIDIA Triton推理服务器的功能与架构，强调其不仅适用于大型服务类应用，还能广泛应用于各类推理场景。Triton支持多种模型格式、查询类型和部署方式，具备高效的模型管理和优化能力，确保高性能和系统稳定性。文章详细解析了Triton的主从架构，包括模型仓库、客户端应用、通信协议和推理服务器的核心功能模块。
Nvidia TensorRT系列01-基本介绍
NVIDIA TensorRT 是一个高性能的机器学习推理SDK，支持 TensorFlow、PyTorch 等框架。本文介绍了 TensorRT 的基本概念、安装指南、快速开始、案例和互补软件，如 NVIDIA Triton 推理服务器、DALI 和 TF-TRT。同时，文章还涵盖了 ONNX 支持、版本控制和弃用策略等内容。
Jetson环境安装(一):Ubuntu18.04安装pytorch、opencv、onnx、tensorflow、setuptools、pycuda....
本文提供了在Ubuntu 18.04操作系统的NVIDIA Jetson平台上安装深度学习和计算机视觉相关库的详细步骤，包括PyTorch、OpenCV、ONNX、TensorFlow等。
环境安装(一):Anaconda3+pytorch1.6.0+cuda10.0+cudnn7.6.4+tensorflow1.15+pycocotools+pydensecrf
这篇文章详细介绍了如何在Anaconda环境下安装和配置深度学习所需的库和工具，包括PyTorch 1.6.0、CUDA 10.0、cuDNN 7.6.4、TensorFlow 1.15、pycocotools和pydensecrf，并提供了pip国内镜像源信息以及Jupyter Notebook和Anaconda的基本操作。
Tensorflow-GPU训练MTCNN出现错误-Could not create cudnn handle: CUDNN_STATUS_NOT_INITIALIZED
在使用TensorFlow-GPU训练MTCNN时，如果遇到“Could not create cudnn handle: CUDNN_STATUS_NOT_INITIALIZED”错误，通常是由于TensorFlow、CUDA和cuDNN版本不兼容或显存分配问题导致的，可以通过安装匹配的版本或在代码中设置动态显存分配来解决。
阿里云Alex Chen：普惠计算服务，助力企业创新
本文整理自阿里云弹性计算产品线、存储产品线产品负责人陈起鲲（Alex Chen）在2024云栖大会「弹性计算专场-普惠计算服务，助力企业创新」中的分享。
阿里云Alex Chen：普惠计算服务，助力企业创新
本文整理自阿里云弹性计算产品线、存储产品线产品负责人陈起鲲（Alex Chen）在2024云栖大会「弹性计算专场-普惠计算服务，助力企业创新」中的分享。在演讲中，他分享了阿里云弹性计算，如何帮助千行百业的客户在多样化的业务环境和不同的计算能力需求下，实现了成本降低和效率提升的实际案例。同时，基于全面升级的CIPU2.0技术，弹性计算全线产品的性能、稳定性等关键指标得到了全面升级。此外，他还宣布了弹性计算包括：通用计算、加速计算和容器计算的全新产品家族，旨在加速AI与云计算的融合，推动客户的业务创新。
免费试用