Python/torch/深度学习——Softmax与Sigmoid

前言

记录Softmax与Sigmoid之间的区别

Softmax

• 输出结果的概率值（所有结果加和为1）
• 适用于互斥集，只能选择一个类别

Sigmoid

• 输出结果的概率值（所有结果加和不一定为1）
  $$y=1/(1+exp(-x))$$

 import numpy as np


 def sigmoid(x):
    return 1/(1 + np.exp(-x))

• 适用于互斥集，可以选择多个类别
• Softmax能用的地方，Sigmoid都能用，反之未必

参考链接

softmax和sigmod的区别与分析
三分钟认知Softmax和Sigmoid的详细区别