在 PyTorch 中，可以使用 requires_grad 属性来表示是否需要计算梯度。默认情况下，创建的张量不会被追踪其操作历史和计算梯度，因此需要手动设置 requires_grad=True 来要求计算梯度。
下面是一个示例：
import torch # 创建一个大小为 (3, 4) 的张量，并要求计算梯度 x = torch.randn(3, 4, requires_grad=True) # 定义一个函数对 x 进行操作 y = x * 2 + 1 # 进一步定义一个针对 y 的损失函数，并进行反向传播计算梯度 loss = y.sum() loss.backward() print(x.grad)
上述代码中，我们首先创建了一个大小为 (3, 4) 的张量 x 并将 requires_grad 设置为 True，表示需要计算梯度。然后，我们定义了一个对 x 进行操作的函数 y。接下来，我们定义了一个简单的损失函数 loss=y.sum()，并调用 loss.backward() 进行反向传播，计算 loss 关于 x 的梯度。最后，我们打印 x.grad 的值，即 loss 关于 x 的梯度。
请注意，只有 requires_grad=True 的张量才能进行反向传播计算梯度。如果一个张量在计算图中没有被使用，或者已经被从计算图中删除了，那么它的梯度会自动被释放，以减少内存使用。如果需要保留一个没有被使用的张量的梯度，可以通过设置 retain_grad=True 参数来实现。
---------------------------------
在 PyTorch 中，可以使用 requires_grad_() 方法来动态设置张量的 requires_grad 属性为 True，从而要求计算梯度。具体来说，对于已经创建的张量 x，可以通过调用 x.requires_grad_() 来将其设置为需要计算梯度的张量。
以下是一个示例：
import torch # 创建一个大小为 (3, 4) 的张量 x = torch.randn(3, 4) # 动态设置 x 需要计算梯度 x.requires_grad_() # 进一步定义一个针对 x 的操作，并进行反向传播计算梯度 y = x * 2 + 1 loss = y.sum() loss.backward() print(x.grad)
在上述示例中，我们首先创建了一个大小为 (3, 4) 的张量 x。然后，我们调用 x.requires_grad_() 方法将其设置为需要计算梯度的张量。接下来，我们定义了一个针对 x 的操作，计算出结果 y。最后，我们计算了损失函数 loss=y.sum() 并进行反向传播，计算 loss 关于 x 的梯度。最终，我们打印 x.grad 的值，即 loss 关于 x 的梯度。
请注意，使用 requires_grad_() 方法时需要在原地修改张量的属性，因此方法名中带有下划线。同时，如果需要对多个张量同时设置 requires_grad=True，可以使用 torch.autograd.set_requires_grad() 方法来批量设置。
