GridSearchCV中的标准和评分有什么区别

Question

我创建了一个GradientBoostingRegressor模型。

我在GridSearchCV函数中使用scoring参数返回MSE分数。

我想知道我是否在param_网格中使用了Criteria，它会改变我的模型吗？哪一种是正确的方式？

谢谢

    GBR = GradientBoostingRegressor()
    param_grids = {
                    'learning_rate'    : [0.01, 0.05, 0.07, 0.1, 0.3, 0.5 ],
                    'n_estimators'     : [50,60,70,80,90,100],
                    'max_depth'        : [1, 2, 3, 4],
                    'min_samples_leaf' : [1,2,3,5,10,15],
                    'min_samples_split': [2,3,4,5,10],  
                    #'criterion' : ['mse']
    }
        
    kf = KFold(n_splits=3, random_state=42, shuffle=True)
    gs = GridSearchCV(estimator=GBR, param_grid = param_grids , cv = kf, n_jobs=-1, 
return_train_score=True, scoring='neg_mean_squared_error') 

Answer 1

标准方法评估树中的分裂。评分方法从整体上评估模型的质量。

如果你想知道它是否改变了你的模型，为什么不直接测试一下呢？这就是GridSearchCV所擅长的。默认值为friedman_mse，因此：

param_grids = {
                    'learning_rate'    : [0.01, 0.05, 0.07, 0.1, 0.3, 0.5 ],
                    'n_estimators'     : [50,60,70,80,90,100],
                    'max_depth'        : [1, 2, 3, 4],
                    'min_samples_leaf' : [1,2,3,5,10,15],
                    'min_samples_split': [2,3,4,5,10],  
                    'criterion' : ['friedman_mse', 'mse']
    }