softmax

softmax — функция, которая отражает вектор чисел в вектор вероятностей:

• сумма всех чисел полученного вектора равна 1
• все числа в диапозоне от 0 до 1
  $$\huge S(x_i) = \frac{\exp{(x_i)}}{\sum_{j=1}^n{\exp{(x_j)}}}$$
  где n — размер слоя
  Используется в многоклассовой классификации (в бинарной используется Sigmoid)