4.6 小结

优质
小牛编辑
117浏览
2023-12-01

本章中,我们介绍了神经网络的学习。首先,为了能顺利进行神经网络的学习,我们导入了损失函数这个指标。以这个损失函数为基准,找出使它的值达到最小的权重参数,就是神经网络学习的目标。为了找到尽可能小的损失函数值,我们介绍了使用函数斜率的梯度法。

本章所学的内容

机器学习中使用的数据集分为训练数据和测试数据。

神经网络用训练数据进行学习,并用测试数据评价学习到的模型的泛化能力。

神经网络的学习以损失函数为指标,更新权重参数,以使损失函数的值减小。

利用某个给定的微小值的差分求导数的过程,称为数值微分。

利用数值微分,可以计算权重参数的梯度。

数值微分虽然费时间,但是实现起来很简单。下一章中要实现的稍微复杂一些的误差反向传播法可以高速地计算梯度。