Keras自定义损失函数-截尾生存分析

Question

我试图在Keras中构造一个自定义损失函数-这是用于生存分析中的删失数据。

这种损失函数本质上是二元交叉熵，即多标签分类，但是损失函数中的求和项需要根据Y_true标签的可用性而变化。见下面的例子：

示例1：Y_可用的所有标签均为True

Y_true=[0,0,0,1,1]

Y_pred=[0.1,0.2,0.2,0.8,0.7]

损失=-1/5（log（0.9）log（0.8）log（0.8）log（0.8）log（0.7)) = 0.22

示例2：只有两个标签可用于Y_True

Y_true=[0,0，--]

Y_pred=[0.1,0.2,0.1,0.9,0.9]

损失=-1/2（对数（0.9）对数（0.8））=0.164

例3：只有一个标签可用于Y_True

Y_true=[0，-，-，--]

Y_pred=[0.1,0.2,0.1,0.9,0.9]

损失=-1（对数（0.9））=0.105

在示例一的情况下，我们的损失将通过上述公式计算，K=5。在示例2中，我们的损失将以K=2计算（即，仅根据地面真相中可用的前两项进行评估）。损耗函数需要根据Y_真实可用性进行调整。

我尝试了自定义Keras损失函数...然而，我正在努力如何在张量流中基于nan索引进行过滤。有人对上面描述的自定义损失函数的编码有建议吗？

def nan_binary_cross_entropy(y_actual, y_predicted):
    stack = tf.stack((tf.is_nan(y_actual), tf.is_nan(y_predicted)),axis=1)
    is_nans = K.any(stack, axis=1)
    per_instance = tf.where(is_nans, tf.zeros_like(y_actual), 
                            tf.square(tf.subtract(y_predicted, y_actual)))

    FILTER HERE
    return K.binary_crossentropy(y_filt, y_filt), axis=-1)

Answer 1

您可以使用tf的组合。数学是南和tf。数学将_no_nan相乘以屏蔽您的y_true以获得所需结果。

import numpy as np
import tensorflow as tf


y_true = tf.constant([
    [0.0, 0.0, 0.0, 1.0, 1.0],
    [0.0, 0.0, np.nan, np.nan, np.nan],
    [0.0, np.nan, np.nan, np.nan, np.nan],
])


y_pred = tf.constant([
    [0.1, 0.2, 0.2, 0.8, 0.7],
    [0.1, 0.2, 0.1, 0.9, 0.9],
    [0.1, 0.2, 0.1, 0.9, 0.9],
])


def survival_loss_fn(y_true, y_pred):
    # create a mask for NaN elements
    mask = tf.cast(~tf.math.is_nan(y_true), tf.float32)
    # sum along the row axis of the mask to find the `N`
    # for each training instance
    Ns = tf.math.reduce_sum(mask, 1)
    # use `multiply_no_nan` to zero out the NaN in `y_pred`
    fst = tf.math.multiply_no_nan(y_true, mask) * tf.math.log(y_pred)
    snd = tf.math.multiply_no_nan(1.0 - y_true, mask) * tf.math.log(1.0 - y_pred)
    return -tf.math.reduce_sum(fst + snd, 1) / Ns


survival_loss_fn(y_true, y_pred)
# <tf.Tensor: shape=(3,), [0.22629324, 0.16425204, 0.10536055], dtype=float32)>