pytorch安装GPU版本 (Cuda12.1)教程: Windows、Mac和Linux系统快速安装指南

简介: pytorch安装GPU版本 (Cuda12.1)教程: Windows、Mac和Linux系统快速安装指南

🌷🍁 博主 libin9iOak带您 Go to New World.✨🍁

🦄 个人主页——libin9iOak的博客🎐
🐳 《面试题大全》 文章图文并茂🦕生动形象🦖简单易学!欢迎大家来踩踩~🌺
🌊 《IDEA开发秘籍》学会IDEA常用操作,工作效率翻倍~💐
🪁🍁 希望本文能够给您带来一定的帮助🌸文章粗浅,敬请批评指正!🍁🐥

GPU版本PyTorch(CUDA 12.1)清华源快速安装教程

摘要

本教程将为您提供在Windows、Mac和Linux系统上安装和配置GPU版本的PyTorch(CUDA 12.1)的详细步骤。我们将使用清华大学开源软件镜像站作为软件源以加快下载速度。在今天的学习中,您将学会如何在不同操作系统上轻松安装和配置深度学习框架PyTorch,为您的AI项目做好准备。

前言

PyTorch是一个流行的开源深度学习框架,由Facebook AI Research实验室开发和维护。它提供了广泛的工具和函数,用于构建和训练各种神经网络模型。GPU版本的PyTorch可以利用GPU的并行计算能力来加速训练过程,从而显著提高深度学习模型的训练速度。

在本教程中,我们将分别介绍在Windows系统、Mac系统和Linux系统上安装和配置GPU版本的PyTorch(CUDA 12.1)。我们将使用清华大学开源软件镜像站作为软件源,以便快速下载所需的软件包。

1. 在Windows系统上安装GPU版本PyTorch(CUDA 12.1)

步骤1:检查GPU兼容性

首先,确保您的Windows计算机配备了兼容的NVIDIA GPU。访问NVIDIA官方网站查找GPU的兼容性列表。

步骤2:安装NVIDIA驱动程序

前往NVIDIA官方网站下载并安装适用于您的GPU型号的最新驱动程序。

步骤3:安装CUDA Toolkit

从NVIDIA官方网站下载并安装与您的GPU兼容的CUDA Toolkit(版本12.1)。

步骤4:配置环境变量

将CUDA Toolkit的安装路径添加到系统环境变量中,以便PyTorch能够正确找到CUDA。

步骤5:创建虚拟环境

使用Anaconda创建一个新的虚拟环境(如pytorch310),并激活它。

步骤6:设置清华源

在虚拟环境中,使用以下命令设置清华源以加速安装过程:

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

步骤7:安装PyTorch

使用以下命令在Windows系统上安装GPU版本的PyTorch(CUDA 12.1):

pip install torch==2.0.0+cu118 torchvision==0.15.1+cu118 torchaudio==2.0.1+cu118 -f https://download.pytorch.org/whl/torch_stable.html

步骤8:验证安装是否成功

在Python环境中运行以下代码来验证是否成功安装了GPU版本的PyTorch:

import torch
print(torch.cuda.is_available())

如果输出结果为True,则说明PyTorch成功使用了GPU加速,安装完成。

2. 在Mac系统上安装GPU版本PyTorch(CUDA 12.1)

步骤1:检查GPU兼容性

确保您的Mac计算机搭载了支持Metal的GPU。访问苹果官方网站查找GPU的兼容性列表。

步骤2:安装Xcode

从Mac App Store下载并安装Xcode,它包含必要的开发工具和编译器。

步骤3:安装Homebrew

在终端中运行安装Homebrew的命令,以便之后安装其他软件。

步骤4:安装CUDA Toolkit

使用Homebrew安装与您的Mac GPU兼容的CUDA Toolkit(版本12.1):

brew install --cask cuda@11.1

步骤5:创建虚拟环境

使用Anaconda创建一个新的虚拟环境(如pytorch310),并激活它。

步骤6:设置清华源

在虚拟环境中,使用以下命令设置清华源以加速安装过程:

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

步骤7:安装PyTorch

使用以下命令在Mac系统上安装GPU版本的PyTorch(CUDA 12.1):

pip install torch==2.0.0+cu118 torchvision==0.15.1+cu118 torchaudio==2.0.1+cu118 -f https://download.pytorch.org/whl/torch_stable.html

步骤8:验证安装是否成功

在Python环境中运行以下代码来验证是否成功安装了GPU版本的PyTorch:

import torch
print(torch.cuda.is_available())

如果输出结果为True,则说明PyTorch成功使用了GPU加速,安装完成。

3. 在Linux系统上安装GPU版本PyTorch(CUDA 12.1)

步骤1:检查GPU兼容性

确保您的Linux计算机搭载了兼容的NVIDIA GPU。访问NVIDIA官方网站查找GPU的兼容性列表。

步骤2:安装NVIDIA驱动程序

根据您的Linux发行版,从NVIDIA官方网站或使用包管理器安装适用于您的GPU型号的最新驱动程序。

步骤3:安装CUDA Toolkit

使用以下命令在Linux系统上下载并安装与您的GPU兼容的CUDA Toolkit(版本12.1):

wget https://developer.download.nvidia.com/compute
/cuda/11.1.1/local_installers/cuda_11.1.1_455.32.00_linux.run
sudo sh cuda_11.1.1_455.32.00_linux.run

步骤4:配置环境变量

将CUDA Toolkit的安装路径添加到系统环境变量中,以便PyTorch能够正确找到CUDA。

步骤5:创建虚拟环境

使用Anaconda创建一个新的虚拟环境(如pytorch310),并激活它。

步骤6:设置清华源

在虚拟环境中,使用以下命令设置清华源以加速安装过程:

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

步骤7:安装PyTorch

使用以下命令在Linux系统上安装GPU版本的PyTorch(CUDA 12.1):

pip install torch==2.0.0+cu118 torchvision==0.15.1+cu118 torchaudio==2.0.1+cu118 -f https://download.pytorch.org/whl/torch_stable.html

步骤8:验证安装是否成功

在Python环境中运行以下代码来验证是否成功安装了GPU版本的PyTorch:

import torch
print(torch.cuda.is_available())

如果输出结果为True,则说明PyTorch成功使用了GPU加速,安装完成。

今日学习总结

在本教程中,我们详细介绍了在Windows、Mac和Linux系统上安装和配置GPU版本的PyTorch(CUDA 12.1)。您学会了检查GPU兼容性、安装NVIDIA驱动程序和CUDA Toolkit、设置环境变量以及使用清华源加速安装过程。最后,您还验证了PyTorch是否成功使用了GPU加速。

通过学习本教程,您现在已经掌握了在不同操作系统上安装GPU版本PyTorch的方法,为深度学习项目的开发和研究做好了准备。祝您在未来的学习和实践中取得更多成果!如有任何问题或疑惑,请随时留言,我们将乐意为您解答。感谢您的阅读!

原创声明

=======

作者: [ libin9iOak ]


本文为原创文章,版权归作者所有。未经许可,禁止转载、复制或引用。

作者保证信息真实可靠,但不对准确性和完整性承担责任。

未经许可,禁止商业用途。

如有疑问或建议,请联系作者。

感谢您的支持与尊重。

点击下方名片,加入IT技术核心学习团队。一起探索科技的未来,共同成长。


相关实践学习
在云上部署ChatGLM2-6B大模型(GPU版)
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验,可以学习如何配置AIGC开发环境,如何部署ChatGLM2-6B大模型。
目录
相关文章
|
缓存 并行计算 PyTorch
PyTorch CUDA内存管理优化:深度理解GPU资源分配与缓存机制
本文深入探讨了PyTorch中GPU内存管理的核心机制,特别是CUDA缓存分配器的作用与优化策略。文章分析了常见的“CUDA out of memory”问题及其成因,并通过实际案例(如Llama 1B模型训练)展示了内存分配模式。PyTorch的缓存分配器通过内存池化、延迟释放和碎片化优化等技术,显著提升了内存使用效率,减少了系统调用开销。此外,文章还介绍了高级优化方法,包括混合精度训练、梯度检查点技术及自定义内存分配器配置。这些策略有助于开发者在有限硬件资源下实现更高性能的深度学习模型训练与推理。
2698 0
|
机器学习/深度学习 并行计算 PyTorch
英伟达新一代GPU架构(50系列显卡)PyTorch兼容性解决方案
本文记录了在RTX 5070 Ti上运行PyTorch时遇到的CUDA兼容性问题,分析其根源为预编译二进制文件不支持sm_120架构,并提出解决方案:使用PyTorch Nightly版本、更新CUDA工具包至12.8。通过清理环境并安装支持新架构的组件,成功解决兼容性问题。文章总结了深度学习环境中硬件与框架兼容性的关键策略,强调Nightly构建版本和环境一致性的重要性,为开发者提供参考。
10329 64
英伟达新一代GPU架构(50系列显卡)PyTorch兼容性解决方案
|
关系型数据库 MySQL 数据库
【MySQL基础篇】MySQL概述、Windows下载MySQL8.0超详细图文安装教程
在这一章节,主要介绍两个部分,数据库相关概念及MySQL数据库的介绍、下载、安装、启动及连接。接着,详细描述了MySQL 8.0的版本选择与下载,推荐使用社区版(免费)。安装过程包括自定义安装路径、配置环境变量、启动和停止服务、以及客户端连接测试。此外,还提供了在同一台电脑上安装多个MySQL版本的方法及卸载步骤。最后,解释了关系型数据库(RDBMS)的特点,即基于二维表存储数据,使用SQL语言进行操作,格式统一且便于维护。通过具体的结构图展示了MySQL的数据模型,说明了数据库服务器、数据库、表和记录之间的层次关系。
2979 56
【MySQL基础篇】MySQL概述、Windows下载MySQL8.0超详细图文安装教程
|
存储 机器学习/深度学习 PyTorch
PyTorch Profiler 性能优化示例:定位 TorchMetrics 收集瓶颈,提高 GPU 利用率
本文探讨了机器学习项目中指标收集对训练性能的影响,特别是如何通过简单实现引入不必要的CPU-GPU同步事件,导致训练时间增加约10%。使用TorchMetrics库和PyTorch Profiler工具,文章详细分析了性能瓶颈的根源,并提出了多项优化措施
977 1
PyTorch Profiler 性能优化示例:定位 TorchMetrics 收集瓶颈,提高 GPU 利用率
|
机器学习/深度学习 并行计算 PyTorch
Windows下CUDA+pytorch安装
以下是关于在Windows下安装CUDA和PyTorch的简要介绍及参考链接:
972 0
Windows下CUDA+pytorch安装
|
机器学习/深度学习 缓存 PyTorch
pytorch学习一(扩展篇):miniconda下载、安装、配置环境变量。miniconda创建多版本python环境。整理常用命令(亲测ok)
这篇文章是关于如何下载、安装和配置Miniconda,以及如何使用Miniconda创建和管理Python环境的详细指南。
10919 0
pytorch学习一(扩展篇):miniconda下载、安装、配置环境变量。miniconda创建多版本python环境。整理常用命令(亲测ok)
|
关系型数据库 MySQL Linux
MySQL数据库下载安装教程(Windows&Linux)
本文档详细介绍了MySQL的安装步骤,包括安装前的准备工作、下载安装包、Windows和Linux系统下的具体安装流程,以及如何配置MySQL服务、设置环境变量、启动服务和连接数据库等关键操作。
|
人工智能 并行计算 流计算
【AI系统】GPU 架构与 CUDA 关系
本文介绍了英伟达GPU硬件基础概念,重点解析了A100 GPU架构中的GPC、TPC、SM等组件及其功能。接着深入讲解了CUDA并行计算平台和编程模型,特别是CUDA线程层次结构。最后,文章探讨了如何根据CUDA核心数量、核心频率等因素计算GPU的算力峰值,这对于评估大模型训练的算力需求至关重要。
2219 3
|
机器学习/深度学习 人工智能 缓存
【AI系统】GPU 基础
GPU,即图形处理器,是计算机系统中处理图形和图像的核心组件,从早期的简单图形加速到如今的高性能计算和深度学习加速,GPU 经历了显著的技术革新。本文将介绍 GPU 的发展历程、与 CPU 的区别、在 AI 领域的关键作用及其在游戏、消费电子、自动驾驶等多个领域的广泛应用。
1753 4
|
机器学习/深度学习 存储 人工智能
【AI系统】为什么 GPU 适用于 AI
本文探讨了GPU在AI计算中的应用,从卷积计算的基本原理入手,解析了GPU线程分级与AI计算模式的关系,以及矩阵乘法如何通过GPU编程提升算力利用率。文章还介绍了计算强度的概念,分析了不同数据结构对计算强度的影响,以及GPU中Tensor Core的作用,强调了在不同存储位置下,找到计算强度与矩阵大小的最佳平衡点对AI计算系统优化的重要性。
1474 2

热门文章

最新文章