如何将加权损失添加到Scikit-learn分类器中？

Question

def weighted_loss(prediction, target):
    if prediction == target:
        return 0  # correct, no loss
    elif prediction == 0:  # class 0 is healthy
        return 100  # false negative, very bad
    else:
        return 1  # false positive, incorrect

我如何将与此等价的东西传递给scikit-learn分类器，如随机森林或SVM分类器？

Answer 1

恐怕你的问题是不恰当的，这是由于损失和度量的不同概念之间存在着根本的混淆。

损失函数不适用于预测==target类型的条件--这是度量（如准确性、精确度、召回率等）所做的--然而，在损失优化（即训练）过程中不起作用，只用于性能评估。损失与难的类预测不起作用；它只对分类器的概率输出起作用，在这种等式条件从不适用的情况下。

损失和度量之间的另一层“隔离”是阈值的选择，这对于将html" target="_blank">分类器的概率输出（在训练期间唯一重要的东西）转换为“硬”类预测（对所考虑的业务问题唯一重要的东西）是必要的。并且，这个阈值在模型训练期间绝对没有作用（其中唯一相关的量是损失，它对阈值和硬类预测一无所知）；正如在交叉验证线程减少分类概率阈值中很好地提到的：

当您为新样本的每类输出一个概率时，练习的统计部分就结束了。选择一个阈值将一个新的观察分类为1与0不再是统计数据的一部分。它是决策组件的一部分。

尽管您当然可以尝试在狭义的模型训练（即损失最小化）之外使用额外的过程来优化这个（决策）阈值，正如您在注释中简要描述的，您的期望

我非常肯定，如果RBF所画的决策边界在拟合数据时考虑到这一点，我会得到更好的结果

使用类似于weight_loss的函数是徒劳的。

因此，没有类似于这里显示的weight_loss的函数（本质上是一个度量，而不是一个损失函数，尽管它有名字），它使用了诸如prediction==target等式条件，不能用于模型训练。

以下SO思路的讨论也可能有助于澄清这一问题：

• 损失和精度-这些学习曲线合理吗？
• Keras中的损失函数和度量有什么区别？（尽管标题如此，但定义普遍适用，不仅适用于Kera)
• 成本函数训练目标与精度期望目标
• 如何解释机器学习模型的损失和准确性