1. 张量（Tensors）
在PyTorch中，张量是一种多维数组的数据结构，类似于NumPy中的数组。张量是PyTorch进行数据处理和计算的基本单位。它可以是标量（0维张量）、向量（1维张量）、矩阵（2维张量）或更高维度的数组。
让我们看一个创建和操作张量的示例：
import torch # 创建一个2x3的随机张量 x = torch.randn(2, 3) print(x) # 张量的形状 print(x.shape) # 张量的大小（元素个数） print(x.size()) # 张量的数据类型 print(x.dtype)
输出： tensor([[ 0.2437, -0.9872, 1.3435], [-0.5496, 0.7643, -1.0878]]) torch.Size([2, 3]) torch.Size([2, 3]) torch.float32
在上面的示例中，我们首先使用torch.randn函数创建了一个2x3的随机张量x。我们还展示了如何获取张量的形状、大小和数据类型。
PyTorch提供了丰富的函数和方法来创建和操作张量。您可以使用这些功能来执行各种数学运算、线性代数操作和其他操作。
2. 自动求导（Automatic Differentiation）
自动求导是PyTorch的一个强大功能，它使我们能够自动计算张量的导数。自动求导机制对于训练神经网络模型和优化算法非常重要。
让我们看一个使用自动求导的示例：
import torch # 创建一个需要求导的张量 x = torch.tensor(3.0, requires_grad=True) # 定义一个函数 y = x^2 y = x**2 # 计算y相对于x的导数 y.backward() # 输出导数值 print(x.grad)
输出：
tensor(6.)
在上面的示例中，我们首先创建了一个需要求导的张量x，并将其设置为requires_grad=True以指示我们希望计算它的导数。然后，我们定义了一个函数y = x^2，并使用自动求导机制计算了y相对于x的导数。最后，我们打印了导数值。
使用自动求导，我们可以轻松地计算张量的梯度，无需手动编写导数计算的代码。这对于训练神经网络模型和实现复杂的优化算法非常有用。
3. 神经网络的构建和训练
PyTorch提供了一组强大的工具和函数，用于构建、训练和评估神经网络模型。我们可以使用PyTorch的torch.nn模块来定义神经网络的层和模型结构，使用torch.optim模块来定义优化器和损失函数，以及使用自动求导机制进行模型参数的更新。
让我们看一个使用PyTorch构建和训练简单神经网络的示例：
import torch import torch.nn as nn import torch.optim as optim # 定义一个简单的神经网络模型 class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.fc = nn.Linear(10, 1) def forward(self, x): x = self.fc(x) return x # 创建模型实例 model = Net() # 定义损失函数和优化器 criterion = nn.MSELoss() optimizer = optim.SGD(model.parameters(), lr=0.01) # 构造输入和目标张量 inputs = torch.randn(16, 10) targets = torch.randn(16, 1) # 训练模型 for epoch in range(100): optimizer.zero_grad() # 清除梯度 outputs = model(inputs) # 前向传播 loss = criterion(outputs, targets) # 计算损失 loss.backward() # 反向传播，计算梯度 optimizer.step() # 更新模型参数 # 使用训练好的模型进行预测 new_inputs = torch.randn(1, 10) predicted = model(new_inputs) print(predicted)
输出：
tensor([[0.1321]], grad_fn=<AddmmBackward>)
在上面的示例中，我们首先定义了一个简单的神经网络模型Net，其中包含一个全连接层。然后，我们创建了模型实例、定义了损失函数（均方误差）和优化器（随机梯度下降），并构造了输入和目标张量。接下来，我们使用循环对模型进行训练，包括前向传播、损失计算、反向传播和参数更新。最后，我们使用训练好的模型进行预测。
通过这个简单的示例，我们展示了如何使用PyTorch构建、训练和使用神经网络模型。
