分类神奇宝贝Pokemon

1这节解决什么问题

同一批数值属性，这次要判断它是水属性还是普通属性。答案不再是数，而是类别。

2一句话讲清

分类别当回归做。这一讲走生成式路线：先估每个类别「长什么样」，再看这个样本更像哪一类生成的。

3通俗解释

1. 把分类当回归会有两个毛病：标签是一的点被预测成五，会被当成「错得离谱」往回拉；多类编号成一、二、三，还会凭空造出顺序。
2. 生成式的思路：先看训练集里两类各占多少（先验），再分别估每个类别的属性大致怎么分布。
3. 假设每类的属性分布像一个「钟形」，形状由中心和胖瘦决定。用数据估这两件事，估出来就是这一类样本的平均位置和分散程度。
4. 把「这类有多常见」和「这个样本多像这一类」合起来，算出它属于水属性的概率；超过一半就判水属性。

4一个例子

讲义例子

讲义的数据里，水属性 79 只、普通 61 只。两类各估各的形状时，测试准确率只有五成多，接近乱猜——因为每类样本太少，估出来的形状很不稳。改成「假设两类形状相同、只是中心不同」之后，准确率跳到七成多，而且分界线变成一条直线。原因很朴素：要估的东西少了，每个参数见到的数据就多了，估计更稳。

5常见误区

• 两次准确率不能简单比「模型好坏」：一次只用了两个属性、一次用了七个，输入都不一样。它们说明的是样本少时估七个属性的完整形状很不稳。
• 「两类形状相同」是一个假设，不是数据告诉你的结论。它让估计更稳，但真实形状差很多时会带来偏差。
• 分类不能当回归做，这条跟数据集无关；要用能表达「类别」的损失，比如交叉熵。

6和相邻几节的关系

P13 是同一批数据的回归版，两讲正好对照「答案是数」和「答案是类别」；P15 接着问：既然最后都是一个打分加一条 S 形曲线，为什么不直接学打分？

730 秒回顾

分类别当回归；生成式先估「各类多常见」和「各类长什么样」；要估的东西越少越稳；共享形状后分界线变直线，准确率明显上升。

8小自测

先自己答，再点开对答案。

9来源