Pytorch 中的 forward理解

迷南。 2022-11-09 03:54 123阅读 0赞

# 前言 #

我们在使用Pytorch的时候，模型训练时，不需要调用forward这个函数，只需要在实例化一个对象中传入对应的参数就可以自动调用 forward 函数。

class Module(nn.Module):
        def __init__(self):
            super().__init__()
            # ......
    
        def forward(self, x):
            # ......
            return x
    
    
    data = ......  # 输入数据
    
    # 实例化一个对象
    model = Module()
    
    # 前向传播
    model(data)
    
    # 而不是使用下面的
    # model.forward(data)

但是实际上model(data)是等价于model.forward(data)，这是为什么呢？？？下面我们来分析一下原因。

# forward函数 #

model(data)之所以等价于model.forward(data)，就是因为在类（class）中使用了\_\_call\_\_函数，对\_\_call\_\_函数不懂得可以点击链接：[可调用：\_\_call\_\_函数][call]

class Student:
        def __call__(self):
            print('I can be called like a function')
    
    
    a = Student()
    a()

输出结果：

I can be called like a function

由上面的\_\_call\_\_函数可知，我们可以将forward函数放到\_\_call\_\_函数中进行调用：

class Student:
        def __call__(self, param):
            print('I can called like a function')
            print('传入参数的类型是：{} 值为： {}'.format(type(param), param))
    
            res = self.forward(param)
            return res
    
        def forward(self, input_):
            print('forward 函数被调用了')
    
            print('in forward, 传入参数类型是：{} 值为: {}'.format(type(input_), input_))
            return input_
    
    
    a = Student()
    
    input_param = a('data')
    print("对象a传入的参数是：", input_param)

输出结果：

I can called like a function
    传入参数的类型是：<class 'str'>   值为： data
    forward 函数被调用了
    in  forward, 传入参数类型是：<class 'str'>  值为: data
    对象a传入的参数是： data

到这里我们就可以明白了为什么model(data)等价于model.forward(data)，是因为\_\_call\_\_函数中调用了forward函数。

[call]: https://zhuanlan.zhihu.com/p/356059224