机器学习基本概念简介

1这节解决什么问题

想猜明天的数字，手里只有今天的数字。机器怎么从一堆例子里自己找出规律？这一节把这件事拆成三个动作。

2一句话讲清

机器学习就是：先写一个带未知数的公式，再规定怎么算「猜得有多差」，最后用数据把未知数调到最不差。

3通俗解释

1. 先挑公式的样子。比如用「今天的人数乘一个倍数，再加上一个基数」来猜明天的人数。倍数和基数就是未知数：公式的形状由人来定，数据只负责把这两个数填进去。
2. 再定「有多差」。把每天的预测和真实值比一比，差得越多扣分越多，全部加起来得到一个总分，叫损失（loss）。总分越小，说明这组未知数越合适。
3. 最后调未知数。朝着让总分变小的方向挪一小步，重复很多次。每步挪多远由学习率决定，它是人设定的，不是学出来的。

4一个例子

讲义例子

讲义用频道观看人数走了一遍：模型只拿「昨天的人数」猜今天，在训练数据上误差不大；换成没参与训练的新一年数据，误差就上去了。再加「前天的人数」这类特征，误差能降一些，但降得越来越少。这说明两件事：模型能学到的规律有上限，而且训练时的表现不等于遇到新数据时的表现。

5常见误区

• 训练误差小不等于模型好。新数据上的误差才是关键；两者差得远，问题通常不在「没调够」，而在模型或特征。
• 只加特征、不改公式形状，模型仍然是「加权求和」这一族，画不出先升后降这种弯的规律。
• 讲义提到「会不会卡在局部最低点」，那是在提问，不是结论：这个例子的损失形状很简单，不会卡。

6和相邻几节的关系

P2 接着用同一份讲义讲多层网络与过拟合；P11 换成 2016 版的讲法；P12 回答「未知数有几十万个时怎么调」。

730 秒回顾

三步：挑公式、定损失、调未知数；公式形状由人定，数据只负责填数；训练误差小不代表新数据上也准；特征加到一定程度，收益会越来越小。

8小自测

先自己答，再点开对答案。

9来源