softmax与多个逻辑谛斯回归的区别？

╰+攻爆jí腚メ 2022-05-19 02:36 184阅读 0赞

**做图像分类的时候，我一般选择去掉VGG-16 ，Xception,inception\_v3 最后几层全连接层，然后利用多个逻辑谛斯回归的原因在于此**：

1、使用softmax回归或者多个logistics回归解决多分类问题时：使用哪一个主要根据类别之间是否互斥。

对于选择softmax分类器还是k个logistics分类器，取决于所有类别之间是否互斥。所有类别之间明显互斥用softmax；所有类别之间不互斥有交叉的情况下最好用k个logistics分类器。

注：以下转自：[http://deeplearning.stanford.edu/wiki/index.php/Softmax\_Regression][http_deeplearning.stanford.edu_wiki_index.php_Softmax_Regression]

## Softmax回归与k二元分类器 ##

假设您正在处理音乐分类应用程序，并且 您正在尝试识别*k*种类型的音乐。您应该使用softmax分类器，还是应该使用逻辑回归构建*k个*单独的二元分类器？

这取决于这四个类是否*相互排斥。* 例如，如果您的四个类是经典，乡村，摇滚和爵士乐，那么假设您的每个训练示例都标有这四个类标签中的一个，您应该构建一个*k* = 4的softmax分类器。（如果还有一些例子不属于上述四个类别，那么你可以在softmax回归中设置*k* = 5，并且还有第五个，“以上都不是”类。）

但是，如果你的类别是has\_vocals，舞蹈，配乐，流行音乐，那么这些课程并不相互排斥; 例如，可以有一段来自音轨的流行音乐，另外还有人声。在这种情况下，构建4个二元逻辑回归分类器更合适。这样，对于每个新的音乐作品，您的算法可以单独决定它是否属于四个类别中的每一个。

现在，考虑一个计算机视觉示例，您尝试将图像分为三个不同的类。（i）假设您的课程是indoor\_scene，outdoor\_urban\_scene和outdoor\_wilderness\_scene。你会使用sofmax回归还是三个逻辑回归分类器？（ii）现在假设你的课程是indoor\_scene，black\_and\_white\_image和image\_has\_people。您会使用softmax回归或多重逻辑回归分类器吗？

在第一种情况下，类是互斥的，因此softmax回归分类器是合适的。在第二种情况下，构建三个单独的逻辑回归分类器更为合适。

[http_deeplearning.stanford.edu_wiki_index.php_Softmax_Regression]: http://deeplearning.stanford.edu/wiki/index.php/Softmax_Regression