Softmax回归
回归和分类的区别
回归估计一个连续值：MNIST：手写数字识别；
单连续数值输出
自然区间R
跟真实值的区别作为损失
分类预测一个离散类别：ImageNet：自然物体分类。
通常多个输出
输出i是预测为第i类的置信度
概念
Softmax是一种数学函数，通常用于将一组任意实数转换为表示概率分布的实数。
其本质上是一种归一化函数，可以将一组任意的实数值转化为在[0, 1]之间的概率值，因为softmax将它们转换为0到1之间的值，所以它们可以被解释为概率。
公式：
$$
\sigma z_i = \frac{e^{z^i}}{\sum_{j=1}^{k} e^{z^j}}
$$
123456789import torch # set the vector to a tensor z = torch.Tensor([5, 7, 10]) # apply softmax softmax = torch.exp(z) / torch.sum(torch.exp(z)) #tensor([0.0064, 0.0471, 0.9465])
损失函数
真实值y ...
