R语言随机森林

精华

小牛编辑

116浏览

2023-03-14

在随机森林方法中，创建了大量的决策树。每个观察结果都被送入每个决策树。每个观察结果最常用作最终输出。对所有决策树进行新的观察，并对每个分类模型进行多数投票。

对于在构建树时未使用的情况进行错误估计。这被称为OOB(Out-of-bag)错误估计，以百分比表示。

R中的软件包“randomForest”用于创建随机林。

安装R包 - randomForest

在R控制台中使用以下命令安装软件包，还必须安装其它依赖软件包(如果有的话)。

install.packages("randomForest")

软件包“randomForest”具有用于创建和分析随机林的randomForest()函数。

语法

在R中创建随机林的基本语法是 -

randomForest(formula, data)

以下是使用的参数的描述 -

formula - 是描述预测变量和响应变量的公式。
data - 是使用的数据集的名称。

输入数据

我们将使用名为readingSkills的R内置数据集来创建一个决策树。如果我们知道变量："age","shoesize","score"以及"nativeSpeaker"表示该人员是否为讲母语的人，那么它描述某个人员的阅读技能的得分。

以下是样本数据 -

# Load the party package. It will automatically load other required packages.
library(party)

# Print some records from data set readingSkills.
print(head(readingSkills))

当我们执行上面的代码，它产生以下结果 -

  nativeSpeaker age shoeSize    score
1           yes   5 24.83189 32.29385
2           yes   6 25.95238 36.63105
3            no  11 30.42170 49.60593
4           yes   7 28.66450 40.28456
5           yes  11 31.88207 55.46085
6           yes  10 30.07843 52.83124

示例

我们将使用randomForest()函数来创建决策树并查看它生成的图形。参考以下代码 -

setwd("F:/worksp/R")
# Load the party package. It will automatically load other required packages.
library("party")
library("randomForest")

# Create the forest.
output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score, 
           data = readingSkills)

# View the forest results.
print(output.forest) 

# Importance of each predictor.
print(importance(output.forest,type = 2))

当我们执行上面的代码，它产生以下结果 -

Call:
 randomForest(formula = nativeSpeaker ~ age + shoeSize + score,      data = readingSkills) 
               Type of random forest: classification
                     Number of trees: 500
No. of variables tried at each split: 1

        OOB estimate of  error rate: 1.5%
Confusion matrix:
    no yes class.error
no  99   1        0.01
yes  2  98        0.02

         MeanDecreaseGini
age              14.09296
shoeSize         17.88001
score            57.55174

结论

从上面所示的随机森林可以得出结论，鞋子大小和得分是决定某人是否是母语者的重要因素。此外，该模型只有1％的误差，这意味着我们可以以99％的准确度预测。