损失函数

“由于误差有正有负，将负号去掉，取绝对值不方便， 最简单的方式就是取误差的平方，所以目标函数为： 在机器学习中，J被称为损失函数（Cost Function），为了使J值不随着样本数的增加而变得过大，通常 乘以1/n，即： 运用最小二乘法的原理，对 1 2 1 2 θ 和 θ 求偏导，即可得到一个二元一次方程组，然后求得 θ 和 θ的 值。”

“比如，刚开始训练时，由于神经网络从未见过狗，它很难输出正确的答案，这时就要用网络输出的答案和真实的标注标签做对比，如果错误，我们会通过一个损失函数（Loss Function）去告诉网络，它输出的结果是错误的，然后利用一个优化器（Optimizer）模块，告诉网络应该如何调整才能向着最优参数的方向迈进。”

“（1）0-1损失函数（0-1 Loss Function）： （2）绝对损失函数（Absolute Loss Function）： （3）平方损失函数（Quadratic Loss Function）： 损失函数值越小，说明实际输出 Y 和预期输出 Y 之间的差值就越小，也就说明我们构建的模型越好。”

“可以看出，在每一轮迭代中，通过前向传播（Forward Propagation）算法，可根据当前参数的取值，获得基于一小部分训练数据的预测值，再通过反向传播（Back Propagation）算法，根据损失函数（Loss Function）计算出参数的梯度并更新参数。”

“可以看出，在每一轮迭代中，通过前向传播（Forward Propagation）算法，可根据当前参数的取值，获得基于一小部分训练数据的预测值，再通过反向传播（Back Propagation）算法，根据损失函数（Loss Function）计算出参数的梯度并更新参数。”

“回到主目录 第 第 章 6 如 何 添 添 加 与 修 修 改 本章主要介绍如何在 BasicSR 框架中添加自定义的 Dataset ，网络结构 (Architecture)，模型 (Model)，损失函数 (Loss) 以及指标 (Metric)。”