如何为一个机器学习模型解释损失和准确性[关闭]

Question

当我用Theano或Tensorflow训练我的神经网络时，它们会每历元报告一个叫做“损失”的变量。

我该如何解释这个变量呢？更高的损耗是更好还是更差，或者这对我的神经网络的最终性能（准确性）意味着什么？

Answer 1

损失越低，模型越好（除非模型已经过拟合训练数据）。损失是在训练和验证的基础上计算的，它的影响是模型在这两个集合中的表现。与准确性不同，损失不是一个百分比。它是训练或验证集中每个示例所犯错误的总和。

在神经网络的情况下，损失通常是负对数似然和残差平方和分别用于分类和回归。自然地，学习模型的主要目标是通过不同的优化方法（如神经网络中的反向传播）改变权向量值来降低（最小化）损失函数相对于模型参数的值。

损失值暗示了某个模型在每次优化迭代后表现的好坏。理想的情况是，在每次或几次迭代之后，会减少损失。

一个模型的精度通常是在模型参数学习和固定之后确定的，而不是在进行学习。然后将测试样本输入到模型中，并在与真实目标进行比较后，记录模型所犯错误（零一损失）的数量。然后计算错误分类的百分比。

例如，如果测试样本数为1000个，模型对其中的952个样本进行了正确分类，则模型的准确率为95.2%。

降低损耗值的同时也有一些细微之处。例如，您可能会遇到过拟合的问题，在这种情况下，模型“记住”了训练示例，并对测试集变得无效。在不使用正则化、模型非常复杂（自由参数的数量w很大）或数据点的数量n很少的情况下，也会出现过拟合。