深度学习:Pytorch nn模块函数解读
nn
nn.Parameter()
这个方法可以把不可以训练的Tensor变成可以通过反向传播更新的参数。
我们以线性回归为例:
先看一下普通的版本
import torch
from torch import nn
class Linear_Regression(nn.Module):
def __init__(self):
super(Linear_Regression, self).__init__()
self.test = torch.rand(1, 2)
self.linear = nn.Linear(2, 1)
def forward(self, x):
y = self.linear(x)
return y
input = torch.rand([3, 2])
linear = Linear_Regression()
print(linear(input))
print((list(linear.named_parameters())))
打印结果分别为 线性回归的输出 与模型的参数
下面是 引用 nn.Parameter()的版本
import torch
from torch import nn
class Linear_Regression(nn.Module):
def __init__(self):
super(Linear_Regression, self).__init__()
self.test = nn.Parameter(torch.rand(1, 2))
self.linear = nn.Linear(2, 1)
def forward(self, x):
y = self.linear(x)
return y
input = torch.rand([3, 2])
linear = Linear_Regression()
print(linear(input))
print((list(linear.named_parameters())))
结果如下:
发现可更新的参数多了个test
nn.Embedding()
nn.Embeddding接受两个重要参数:
num_embeddings:字典的大小,就是我这个序列有多少个词
embedding_dim:要将单词编码成多少维的向量
代码如下:
假设我有5个词,我要把这个5个词转换成3维的tensor
input = torch.arange(5)
print(input)
emb = nn.Embedding(5,3)
print(emb(input))