女孩和机器人一起思考

一起动脑筋 · 先看一个小故事

机器人算出一个错误答案,女孩问:哪几个旋钮应该调,调多少?训练算法用误差来计算方向。

把过程摊开来看

沿着编号看一遍,再用自己的话讲一遍
  1. 前向算出预测
  2. 损失衡量差异
  3. 反向传播计算参数影响
  4. 优化更新小步调整

神经网络训练常用反向传播计算损失对参数的梯度,再由优化方法更新参数。

梯度可以先理解为“参数小变化会怎样影响损失”的数值线索。不是模型逐条用语言分析自己的错误。

更新后继续用数据检查,总体目标是改善任务表现。

轮到你来试一试

损失变小,就能直接说所有现实情况都更可靠了吗?

想好了吗?点开看解释

不能,损失对应特定目标与数据,还要检查未见样本和实际任务表现。

带走一个发现

神经网络训练常用反向传播计算损失对参数的梯度,再由优化方法更新参数。

试着遮住上面的图,把每一步讲给家人听。如果某一步说不清楚,就回到那张卡片再看一遍。