剖析 | torch.nn.functional.softmax维度详解

红太狼 2022-11-06 12:51 109阅读 0赞

写代码，看代码都要心中有数，输入是什么，输出是什么，结果是如何计算出来的。

一维数据：

# -*- coding: utf-8 -*-
    import torch
    import numpy as np
    import torch.nn.functional as F
    
    a = [1, 2, 3]
    a = torch.from_numpy(np.array(a, dtype=np.float))
    b1 = F.softmax(a, dim=0)
    b2 = F.softmax(a, dim=-1)
    print(b1)
    print(b2)

运行结果：

![20210309150002722.png][]

dim=0,列和为1，列的和为1，由于只有一个维度，行在规模上是没有的，虽然眼睛看起来是1行3个数，但是实际上只有一个列维度是3，所以是列和为1，一共3列，那么计算出来的三个数的和应该是1，运行结果中可以看出，确实是，dim=-1和dim=0的结果一致，是循环所致。

二维数据：

# -*- coding: utf-8 -*-
    import torch
    import numpy as np
    import torch.nn.functional as F
    
    a = [[1, 2, 3],[4,5,6]]
    a = torch.from_numpy(np.array(a, dtype=np.float))
    b1 = F.softmax(a, dim=0)
    b2 = F.softmax(a, dim=1)
    b3 = F.softmax(a, dim=-1)
    print(b1)
    print(b2)
    print(b3)

运行结果：

![20210309145900263.png][]

dim=-1和dim=1的结果一样，循环所致。

三维数据：

# -*- coding: utf-8 -*-
    import torch
    import numpy as np
    import torch.nn.functional as F
    
    a = [[[1, 2, 3], [4, 5, 6]], [[7, 8, 9], [1, 2, 4]]]
    a = torch.from_numpy(np.array(a, dtype=np.float))
    b1 = F.softmax(a, dim=0)
    b2 = F.softmax(a, dim=1)
    b3 = F.softmax(a, dim=2)
    b4 = F.softmax(a, dim=-1)
    print(b1)
    print(b2)
    print(b3)
    print(b4)

运行结果：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3Nvbmd4aWFvbGluZ2Jhb2Jhbw_size_16_color_FFFFFF_t_70][]

dim=-1和dim=2的结果一样，原因嘛，循环所致。

[20210309150002722.png]: /images/20221023/583c6365be4947a8bc3e8a3628dc4ced.png
[20210309145900263.png]: /images/20221023/435c97ddd91c42bebd43023f4cb0d38e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3Nvbmd4aWFvbGluZ2Jhb2Jhbw_size_16_color_FFFFFF_t_70]: /images/20221023/41433b7bab484072b65344f58bddbf3d.png