原帖调用 make_dot(model(x)),但 IC_V6.forward 的签名要求 input_tokens 和 hidden:
TypeError: forward() missing 1 required positional argument: 'hidden'
可视化前必须先完成合法前向
make_dot 接收的是计算结果,而 model(x) 会先照常执行 forward。原题缺 hidden,还用随机浮点向量代替 token 输入,因而应先匹配模型签名、词 ID 与状态尺寸。可视化工具不会替模型补齐这些参数。
报错发生在真正前向调用,PyTorchViz 还没有拿到输出。torch.randn(1,8) 也不符合原模型的 token 输入:它内部把 token reshape 成单个编号。
先检查模型签名和 GRU 配置:
import inspect
print("josh050608")
print("forward:", inspect.signature(model.forward))
print("GRU:", model.gru.num_layers, model.gru.hidden_size)
若要可视化普通词输入分支,提供合法 token 和 hidden。下面使用原模型的单 token、batch=1 约定,先让 USE_GPU 设置与模型设备一致;否则原 forward 会按全局变量把输入搬到另一设备。
import torch
from torchviz import make_dot
p = next(model.parameters())
token = torch.tensor(0, dtype=torch.long, device=p.device)
hidden = p.new_zeros(model.gru_layers, 1, model.hidden_state_size)
output, new_hidden = model(token, hidden, process_image=False)
graph = make_dot(output.sum(), params=dict(model.named_parameters()))
token 0 必须在实际词表范围内;这里用它只构造一个小前向图。make_dot 应接收输出张量或标量,不应不加区分地把 (output,hidden) 当成单一输出。
若需要画图像初始化分支,应传真正预处理后的图像作为 hidden,并设置 process_image=True;该分支将图像编码结果当作输入,不等同于普通 GRU 状态。还需核对图像编码维数与 embedding_size 一致。
验证应先不调用 make_dot,单独确认 forward 成功、输出有 grad_fn,再画图。原帖网络依赖全局 inception、USE_GPU 与尺寸常量,缺少这些信息不能完整复现。
先用 GRU 小例子检查状态与输出
下面可在 CPU 独立运行,不依赖 PyTorchViz。它显式传入 [层数,batch,hidden_size] 状态,检查输出具有计算图:
import torch
from torch import nn
embedding = nn.Embedding(10, 4)
gru = nn.GRU(input_size=4, hidden_size=6, num_layers=2, batch_first=True)
tokens = torch.tensor([[1, 2, 3]], dtype=torch.long)
embedded = embedding(tokens)
hidden = embedded.new_zeros(2, 1, 6)
output, new_hidden = gru(embedded, hidden)
assert output.shape == (1, 3, 6)
assert new_hidden.shape == (2, 1, 6)
assert output.grad_fn is not None
output.sum().backward()
assert embedding.weight.grad is not None
print("output/state:", output.shape, new_hidden.shape)
验证前向成功后,另做一次前向再把输出标量交给 make_dot,参数字典使用实际模型的 named_parameters。若要渲染为文件,还需要 Graphviz 可执行程序;缺少它是另一个安装阶段错误,与本题 forward 参数缺失分开处理。
原题 IC_V6 的 process_image=True 分支把图像编码结果传入,不等于普通词输入分支的 GRU hidden。应按目标分支提供图像或 token 与状态,并核对全局 USE_GPU、inception 和尺寸常量。不要为可视化临时改变 forward 参数默认值而绕过模型实际依赖。
最终图中应能看到所选分支使用的参数,输出须来自一次带梯度记录的前向;在 no_grad 中得到的输出不适合用来检查训练计算图。
参考:原始求助帖;技术依据:nn.Module(2.5)、PyTorch 自动求导(2.5)、GRU(2.5)、PyTorchViz 官方用法。