GBDT-1数学建模竞赛.docVIP

GBDT基本信息汇总?MACROBUTTONDoFieldClick[]

选项

频数

百分比

有效

33

33.00%

缺失

67

67.00%

总计

100

100.00%

Suggestions?MACROBUTTONDoFieldClick[]

GBDT(GradientBoostingDecisionTree)是一种基于决策树的集成学习算法，它将多个弱分类器(决策树)进行迭代加权，来提升模型的准确性。在每一次迭代中，GBDT会根据上一轮模型的预测结果计算出残差(实际值与预测值之差)，并将残差作为下一轮模型的训练目标。算法步骤如下：

第一：初始化，通过拟合一个初始模型(比如平均值)，得到初始预测值；

第二：计算残差，计算当前模型的预测值与实际值之间的残差(差异)；

第三：拟合残差，拟合一个回归树(决策树)来预测残差，使得残差减少；

第四：更新模型，通过将回归树的预测结果乘以一个学习率(或步长)，更新当前模型；

第五：重复迭代，重复步骤2到4，直到达到预设的迭代次数或残差已经足够小；

第六：集成模型，将所有的回归树组合起来形成最终的集成模型，每棵树的预测结果加权相加，得到最终的预测值。

IntelligentAnalysis?MACROBUTTONDoFieldClick[]

将Totalnumberofhouseholds,Greeningrate,Floorarearatio,Propertymanagementfee（/m2/monthUSD）,above-groundparkingfee（/monthUSD）,undergroundparkingfee（/monthUSD）,citycode,adcode,lon,lat,X,Y项作为自变量，而将Price(USD)作为因变量进行Gbdt建模，从上表可以看出，总共有33个样本参与分析。

特征权重值?MACROBUTTONDoFieldClick[]

项

权重值

Totalnumberofhouseholds

0.003

Greeningrate

0.051

Floorarearatio

0.091

Propertymanagementfee（/m2/monthUSD）

0.140

above-groundparkingfee（/monthUSD）

0.009

undergroundparkingfee（/monthUSD）

0.284

citycode

0.000

adcode

0.000

lon

0.191

lat

0.030

X

0.173

Y

0.027

IntelligentAnalysis?MACROBUTTONDoFieldClick[]

特征权重显示了各标题对模型贡献的重要程度，其加和值为1，从上表可知：

undergroundparkingfee（/monthUSD）所占比重为28.41%，该特征的权重最高，对模型构建起着关键作用；

lon所占比重为19.06%；

X所占比重为17.35%；

Propertymanagementfee（/m2/monthUSD）所占比重为13.96%；

以上4项特征的比重合计占到了78.79%；

剩余8项Floorarearatio、Greeningrate、lat、Y、above-groundparkingfee（/monthUSD）、Totalnumberofhouseholds、adcode、citycode的比重则分别为：9.09%、5.13%、3.03%、2.75%、0.90%、0.32%、0.00%、0.00%。

模型评估结果?MACROBUTTONDoFieldClick[]

指标

说明

训练集时

测试集时

R方值

拟合程度指标，0~1之间越大越好

1.000

0.300

平均绝对误差值MAE

L1损失，真实值与拟合值的平均值差值，越接近于0越好

0.043

1710.018

均方误差MSE

L2损失，误差平方和均值，越接近于0越好

0.003

6280100.542

均方误差根RMSE

MSE开根号，平均gap值

0.054

2506.013

中位数绝对误差MAD

预测值离中位数残差的绝对值，不受异常值影响，越小越好

0.033

1270.739

平均绝对百分误差MAPE

平均误差百分比，不受异常点影响，越小越好

0.000

0.011

可解释方差分EVS

衡量模型对数据波动的解释力度，介于[0,1]之间，越大越好

1.000

0.350

均方根对数误差MSLE

在RMSE相同时，其对欠预测惩罚更多（使用较少）

0.000

0.048

Su