你所在的位置: 首页 > 正文

python分类分析--随机森林原理及案例

2020-03-08 点击:1571

随机森林

1,什么是集成学习方法

集成学习通过建立几个板块组合来解决单个预测问题。其工作原理是生成多个分类器/模型,每个分类器/模型独立地学习和做出预测。这些预测最终被组合成组合预测,因此它们优于任何单一的分类预测。决策树的过拟合可以通过集成学习方法的剪枝或随机森林来实现。

2。什么是随机森林?

在机器学习中,随机森林是包含多个决策树的分类器,其输出类别由多个决策树输出的类别模式数决定。例如,如果您训练5棵树,其中4棵树的结果为真,1棵树的结果为假,则最终投票结果为真。

Random:

Forest:具有多棵决策树的分类器

3,随机森林的主要过程

4,为什么自举采样

为什么随机样本推送训练?

如果不进行随机抽样,每棵树的训练集将是相同的,那么最终训练的树的分类结果将是相同的。

为什么你需要把取样放回去?

如果没有样本放回,那么每棵树的训练样本是不同的,没有交集,也就是说,每棵树的训练都是不同的。然而,随机森林的最终分类取决于多个树的投票(弱分类器)。

5。实现随机森林的python接口

随机森林分类器参数解释:

其中超级参数是:n _估计器、最大深度、最小样本分割、最小样本叶

6。应用概述

在所有当前的分类算法中,该方法具有极好的准确性

并且可以有效地在大数据集上运行,处理具有高维特征的输入样本,并且不需要降维

来评估分类

7中每个特征的重要性,情况:随机森林预测泰坦尼克乘客的生存

row . names

PC lass

surved

name

age

bocked

home . dest

room

ticket

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

南安普敦

圣路易斯,密苏里州

艾莉森,海伦洛雷恩小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

南安普敦

圣路易斯,密苏里州

艾莉森,海伦洛雷恩小姐

艾莉森,Mr Hudson约书亚克雷顿

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

南安普敦

圣路易斯,密苏里州

135

艾莉森,Mr Hudson约书亚克雷顿

4

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allison,Mrs Hudson j . c .(Bessie Waldo Daniels)

25.0000

圣路易斯,密苏里州

艾莉森,海伦洛雷恩小姐

4

5

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allison,Master Hudson Trevor

0.9167

圣路易斯,密苏里州

C22

11

row . names

PC lass

surved

name

age

bocked

home . dest

room

ticket

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

南安普敦

圣路易斯,密苏里州

艾莉森,海伦洛雷恩小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

南安普敦

圣路易斯,密苏里州

艾莉森,海伦洛雷恩小姐

艾莉森,Mr Hudson约书亚克雷顿

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

南安普顿

圣路易斯,密苏里州

135

RangeIndex : 1313条目, 0至1312

数据列(共6列):

pclass 1313 non-null对象

age 633 non-null float 64

sex 1313 non-null对象

loaded 821 non-null对象

home.dest 754 non-null对象t

room 77 non-null对象

dtypes 3360 float 64(1),对象(5)

memory usage 3360 61.6 KB

PC lass

age

Allen。伊丽莎白沃尔顿小姐

bocked

home . dest

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

艾莉森,海伦洛雷恩小姐

圣路易斯,密苏里州

Allen。伊丽莎白沃尔顿小姐

Allen。伊丽莎白沃尔顿小姐

南安普敦

艾莉森,海伦洛雷恩小姐

圣路易斯,密苏里州

Allen。伊丽莎白沃尔顿小姐

南安普顿

圣路易斯,密苏里州

范围索引: 1313条目,0至1312

数据列(共5列):

pclass 1313非空对象

age 1313非空浮点64

sex 1313非空对象

loaded 1313非空对象

home.dest 1313非空对象

dtypes 3360 float 64(1),object(4)

memory use : 51.4 KB

GridSearcHv 200,300,500,800],' max_depth': [3,5,8,10,15],' max_features': ['auto ',' log2']},

pre_dispatch='2*n_jobs ',refit=真,return_train_score='warn ',

scoring=无, verbose=0)

y _ predict :

[0 0 1 0 0 0 0 1 0 0 0 0 0 0 0 1 0 0 0 1 0 1 0 0 0 0 0 0 0 0 0 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 1 0 1 0 0 0 0 0 0 0 0

1 1 0 1 0 0 0 0 1 0 1 0 1 0 1 0 1 0 1 0 1 0 1 0 0 1 0 0 0 1 0 0 1 0 0

0 1 0 1 0 1 0 1 0 1 0 1 0 0 1 0 1 0 0 1 0 0 0 1 0 0 1 0 0 1 0 0 1 0 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 1 0 1 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0

0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 0 0 0 1 0 0 0 1 0 0 1 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0

0 0 0 0 1 0 1 0 0 1 1 1 0 1 0 1 0 1 0 1 0 1 0 1 0 0 0 0 0 0 0 0

0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1

0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 1

1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0]

准确率为:

min_weight_fraction_leaf=0.0,n _ assessors=200,n_jobs=1,

最佳参数:

{'max_depth': 15,' max_features': 'auto ',' n _ assessments ' : 200 }

最佳结果:

RandOmForestDiceptor(引导=真,class _ weight=无,criterion=' gini ',

max_depth=15,max_features='auto ',max _ leaf _ nodes=无,

min _ questiony _ reduce=0.0,min _ questiony _ split=无,

min_samples_leaf=1,min_samples_split=2,

min_weight_fraction_leaf=0.0,n _ assessors=200,n_jobs=1,

oob _ score=假,随机_状态=

y _ predict :

[0 0 1 0 0 0 0 1 0 0 0 0 0 0 0 1 0 0 0 1 0 1 0 0 0 0 0 0 0 0 0 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 1 0 1 0 0 0 0 0 0 0 0

0 1 0 1 0 1 0 1 0 1 0 1 0 0 1 0 1 0 0 1 0 0 0 1 0 0 1 0 0 1 0 0 1 0 0 1 0 0 0 0 0 0 0 0 0 0 0 1 0 1 0 1 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0

仙女山新闻网 版权所有© www.lyhuwei.com 技术支持:仙女山新闻网 | 网站地图