Sklearn DecisionTreeClassifier F-每次跑步的成绩不同

Question

我正在尝试使用Python训练一个决策树分类器。我正在使用MinMaxScaler（）缩放数据，并使用f1\u分数作为我的评估指标。奇怪的是，我注意到我的模型在每次运行时给了我不同的结果。

数据在我的代码中是一个（2000,7）熊猫。DataFrame，具有6个要素列，最后一列为目标值。第1、3和5列是分类数据。

下面的代码是我预处理和格式化我的数据所做的：

import numpy as np
import pandas as pd
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import LabelEncoder
from sklearn.preprocessing import OneHotEncoder
from sklearn.preprocessing import MinMaxScaler
from sklearn.metrics import f1_score


# Data Preprocessing Step
# =============================================================================
data = pd.read_csv("./data/train.csv")

X = data.iloc[:, :-1]
y = data.iloc[:, 6]

# Choose which columns are categorical data, and convert them to numeric data.
labelenc = LabelEncoder()
categorical_data = list(data.select_dtypes(include='object').columns)

for i in range(len(categorical_data)):
    X[categorical_data[i]] = labelenc.fit_transform(X[categorical_data[i]])


# Convert categorical numeric data to one-of-K data, and change y from Series to ndarray.
onehotenc = OneHotEncoder()
X = onehotenc.fit_transform(X).toarray()
y = y.values

X_train, X_val, y_train, y_val = train_test_split(X, y, test_size=0.2)

min_max_scaler = MinMaxScaler()
X_train_scaled = min_max_scaler.fit_transform(X_train)
X_val_scaled = min_max_scaler.fit_transform(X_val)

下一个代码是用于实际决策树模型训练的：

dectree = DecisionTreeClassifier(class_weight='balanced')
dectree = dectree.fit(X_train_scaled, y_train)
predictions = dectree.predict(X_val_scaled)
score = f1_score(y_val, predictions, average='macro')

print("Score is = {}".format(score))

我得到的输出（即分数）各不相同，但有一种模式。例如，它将在0.39和0.42范围内的数据之间循环。

在一些迭代中，我甚至得到了UndefinedMetricWarning，它声称“在没有预测样本的标签中，F-score定义错误，被设置为0.0。”

在这个社区和谷歌上做了一些搜索之后，我很熟悉UnfinedMetricWarning的意思。我想我提出的两个问题可能是：

>

为什么每次迭代我的输出都不同？预处理阶段是否有我不知道的事情发生？

我还试图将F值与其他数据分割一起使用，但我总是收到警告。这是不可预防的吗？

非常感谢。

Answer 1

您正在将数据集拆分为训练和测试，它随机划分训练和测试的集合。因此，当你每次用不同的训练数据训练你的模型，并用不同的测试数据测试它时，你会得到一个范围的F分数，这取决于模型训练得有多好。

要在每次运行时复制结果，请使用random\u state参数。它将保持一个随机数状态，每次运行时都会给您相同的随机数。这表明随机数是以相同的顺序生成的。这可以是任何数字。

#train test split
X_train, X_val, y_train, y_val = train_test_split(X, y, test_size=0.2, random_state=13)

#Decision tree model
dectree = DecisionTreeClassifier(class_weight='balanced', random_state=2018)