二手车预测：task1：赛题分析

深碍√TFBOYSˉ_ 2023-05-28 14:26 12阅读 0赞

--------------------

**train.csv**

*  name - 汽车编码
 *  regDate - 汽车注册时间
 *  model - 车型编码
 *  brand - 品牌
 *  bodyType - 车身类型
 *  fuelType - 燃油类型
 *  gearbox - 变速箱
 *  power - 汽车功率
 *  kilometer - 汽车行驶公里
 *  notRepairedDamage - 汽车有尚未修复的损坏
 *  regionCode - 看车地区编码
 *  seller - 销售方
 *  offerType - 报价类型
 *  creatDate - 广告发布时间
 *  price - 汽车价格
 *  v\_0’, ‘v\_1’, ‘v\_2’, ‘v\_3’, ‘v\_4’, ‘v\_5’, ‘v\_6’, ‘v\_7’, ‘v\_8’, ‘v\_9’, ‘v\_10’, ‘v\_11’, ‘v\_12’, ‘v\_13’,‘v\_14’（根据汽车的评论、标签等大量信息得到的embedding向量）【人工构造 匿名特征】

数字全都脱敏处理，都为label encoding形式，即数字形式

--------------------

**本赛题的评价标准为MAE(Mean Absolute Error):**

M A E = ∑ i = 1 n ∣ y i − y ^ i ∣ n MAE=\\frac\{\\sum\_\{i=1\}^\{n\}\\left|y\_\{i\}-\\hat\{y\}\_\{i\}\\right|\}\{n\} MAE=n∑i=1n∣yi−y^i∣  
其中 y i y\_\{i\} yi代表第 i i i个样本的真实值，其中 y ^ i \\hat\{y\}\_\{i\} y^i代表第 i i i个样本的预测值。  
其实就是sse的一个开方

*一般问题评价指标说明:*\*

什么是评估指标：

> 评估指标即是我们对于一个模型效果的数值型量化。（有点类似与对于一个商品评价打分，而这是针对于模型效果和理想效果之间的一个打分）

一般来说分类和回归问题的评价指标有如下一些形式：

#### 分类算法常见的评估指标如下： ####

*  对于二类分类器/分类算法，评价指标主要有accuracy， \[Precision，Recall，F-score，Pr曲线\]，ROC-AUC曲线。
 *  对于多类分类器/分类算法，评价指标主要有accuracy， \[宏平均和微平均，F-score\]。

#### 对于回归预测类常见的评估指标如下: ####

*  平均绝对误差（Mean Absolute Error，MAE），均方误差（Mean Squared Error，MSE），平均绝对百分误差（Mean Absolute Percentage Error，MAPE），均方根误差（Root Mean Squared Error）， R2（R-Square）

**平均绝对误差**  
**平均绝对误差（Mean Absolute Error，MAE）**:平均绝对误差，其能更好地反映预测值与真实值误差的实际情况，其计算公式如下：  
 M A E = 1 N ∑ i = 1 N ∣ y i − y ^ i ∣ MAE=\\frac\{1\}\{N\} \\sum\_\{i=1\}^\{N\}\\left|y\_\{i\}-\\hat\{y\}\_\{i\}\\right| MAE=N1i=1∑N∣yi−y^i∣

**均方误差**  
**均方误差（Mean Squared Error，MSE）**,均方误差,其计算公式为：  
 M S E = 1 N ∑ i = 1 N ( y i − y ^ i ) 2 MSE=\\frac\{1\}\{N\} \\sum\_\{i=1\}^\{N\}\\left(y\_\{i\}-\\hat\{y\}\_\{i\}\\right)^\{2\} MSE=N1i=1∑N(yi−y^i)2

**R2（R-Square）的公式为**：  
残差平方和：  
 S S r e s = ∑ ( y i − y ^ i ) 2 SS\_\{res\}=\\sum\\left(y\_\{i\}-\\hat\{y\}\_\{i\}\\right)^\{2\} SSres=∑(yi−y^i)2  
总平均值:  
 S S t o t = ∑ ( y i − y ‾ i ) 2 SS\_\{tot\}=\\sum\\left(y\_\{i\}-\\overline\{y\}\_\{i\}\\right)^\{2\} SStot=∑(yi−yi)2

其中 y ‾ \\overline\{y\} y表示 y y y的平均值  
得到 R 2 R^2 R2表达式为：  
 R 2 = 1 − S S r e s S S t o t = 1 − ∑ ( y i − y ^ i ) 2 ∑ ( y i − y ‾ ) 2 R^\{2\}=1-\\frac\{SS\_\{res\}\}\{SS\_\{tot\}\}=1-\\frac\{\\sum\\left(y\_\{i\}-\\hat\{y\}\_\{i\}\\right)^\{2\}\}\{\\sum\\left(y\_\{i\}-\\overline\{y\}\\right)^\{2\}\} R2=1−SStotSSres=1−∑(yi−y)2∑(yi−y^i)2  
 R 2 R^2 R2用于度量因变量的变异中可由自变量解释部分所占的比例，取值范围是 0~1， R 2 R^2 R2越接近1,表明回归平方和占总平方和的比例越大,回归线与各观测点越接近，用x的变化来解释y值变化的部分就越多,回归的拟合程度就越好。所以 R 2 R^2 R2也称为拟合优度（Goodness of Fit）的统计量。

y i y\_\{i\} yi表示真实值， y ^ i \\hat\{y\}\_\{i\} y^i表示预测值， y ‾ i \\overline\{y\}\_\{i\} yi表示样本均值。得分越高拟合效果越好。

# 数据读取 #

import pandas as pd
    import numpy as np

# 路径改成自己的
    train = pd.read_csv('/home/ach/下载/数据挖掘/used_car_train_20200313.csv', sep=' ')
    test = pd.read_csv('/home/ach/下载/数据挖掘/used_car_testA_20200313.csv', sep=' ')
    print('Train data shape:',train.shape)
    print('TestA data shape:',test.shape)

Train data shape: (150000, 31)
    TestA data shape: (50000, 30)

train.head()

<table> 
 <thead> 
  <tr> 
   <th></th> 
   <th>SaleID</th> 
   <th>name</th> 
   <th>regDate</th> 
   <th>model</th> 
   <th>brand</th> 
   <th>bodyType</th> 
   <th>fuelType</th> 
   <th>gearbox</th> 
   <th>power</th> 
   <th>kilometer</th> 
   <th>...</th> 
   <th>v_5</th> 
   <th>v_6</th> 
   <th>v_7</th> 
   <th>v_8</th> 
   <th>v_9</th> 
   <th>v_10</th> 
   <th>v_11</th> 
   <th>v_12</th> 
   <th>v_13</th> 
   <th>v_14</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>0</td> 
   <td>0</td> 
   <td>736</td> 
   <td>20040402</td> 
   <td>30.0</td> 
   <td>6</td> 
   <td>1.0</td> 
   <td>0.0</td> 
   <td>0.0</td> 
   <td>60</td> 
   <td>12.5</td> 
   <td>...</td> 
   <td>0.235676</td> 
   <td>0.101988</td> 
   <td>0.129549</td> 
   <td>0.022816</td> 
   <td>0.097462</td> 
   <td>-2.881803</td> 
   <td>2.804097</td> 
   <td>-2.420821</td> 
   <td>0.795292</td> 
   <td>0.914762</td> 
  </tr> 
  <tr> 
   <td>1</td> 
   <td>1</td> 
   <td>2262</td> 
   <td>20030301</td> 
   <td>40.0</td> 
   <td>1</td> 
   <td>2.0</td> 
   <td>0.0</td> 
   <td>0.0</td> 
   <td>0</td> 
   <td>15.0</td> 
   <td>...</td> 
   <td>0.264777</td> 
   <td>0.121004</td> 
   <td>0.135731</td> 
   <td>0.026597</td> 
   <td>0.020582</td> 
   <td>-4.900482</td> 
   <td>2.096338</td> 
   <td>-1.030483</td> 
   <td>-1.722674</td> 
   <td>0.245522</td> 
  </tr> 
  <tr> 
   <td>2</td> 
   <td>2</td> 
   <td>14874</td> 
   <td>20040403</td> 
   <td>115.0</td> 
   <td>15</td> 
   <td>1.0</td> 
   <td>0.0</td> 
   <td>0.0</td> 
   <td>163</td> 
   <td>12.5</td> 
   <td>...</td> 
   <td>0.251410</td> 
   <td>0.114912</td> 
   <td>0.165147</td> 
   <td>0.062173</td> 
   <td>0.027075</td> 
   <td>-4.846749</td> 
   <td>1.803559</td> 
   <td>1.565330</td> 
   <td>-0.832687</td> 
   <td>-0.229963</td> 
  </tr> 
  <tr> 
   <td>3</td> 
   <td>3</td> 
   <td>71865</td> 
   <td>19960908</td> 
   <td>109.0</td> 
   <td>10</td> 
   <td>0.0</td> 
   <td>0.0</td> 
   <td>1.0</td> 
   <td>193</td> 
   <td>15.0</td> 
   <td>...</td> 
   <td>0.274293</td> 
   <td>0.110300</td> 
   <td>0.121964</td> 
   <td>0.033395</td> 
   <td>0.000000</td> 
   <td>-4.509599</td> 
   <td>1.285940</td> 
   <td>-0.501868</td> 
   <td>-2.438353</td> 
   <td>-0.478699</td> 
  </tr> 
  <tr> 
   <td>4</td> 
   <td>4</td> 
   <td>111080</td> 
   <td>20120103</td> 
   <td>110.0</td> 
   <td>5</td> 
   <td>1.0</td> 
   <td>0.0</td> 
   <td>0.0</td> 
   <td>68</td> 
   <td>5.0</td> 
   <td>...</td> 
   <td>0.228036</td> 
   <td>0.073205</td> 
   <td>0.091880</td> 
   <td>0.078819</td> 
   <td>0.121534</td> 
   <td>-1.896240</td> 
   <td>0.910783</td> 
   <td>0.931110</td> 
   <td>2.834518</td> 
   <td>1.923482</td> 
  </tr> 
 </tbody> 
</table>

5 rows × 31 columns

# 评价指标：准确度 #

## accuracy
    import numpy as np
    from sklearn.metrics import accuracy_score
    y_pred = [0, 1, 0, 1]
    y_true = [0, 1, 1, 1]
    print('ACC:',accuracy_score(y_true, y_pred))

ACC: 0.75

## Precision,Recall,F1-score
    from sklearn import metrics
    y_pred = [0, 1, 0, 0]
    y_true = [0, 1, 0, 1]
    print('Precision',metrics.precision_score(y_true, y_pred))#精确率，预测为正类里面中真正正类所占的比例
    print('Recall',metrics.recall_score(y_true, y_pred))# 正类预测为正类所占的比率
    print('F1-score:',metrics.f1_score(y_true, y_pred))#The F1 Score is the 2*((precision*recall)/(precision+recall))
    # F1分数越高，结果就越稳健

Precision 1.0
    Recall 0.5
    F1-score: 0.6666666666666666

## AUC
    import numpy as np
    from sklearn.metrics import roc_auc_score
    y_true = np.array([0, 0, 1, 1])
    y_scores = np.array([0.1, 0.4, 0.35, 0.8])
    print('AUC socre:',roc_auc_score(y_true, y_scores))
    #TPRate的意义是所有真实类别为1的样本中，预测类别为1的比例。
    #FPRate的意义是所有真实类别为0的样本中，预测类别为1的比例。
    #AUC即ROC曲线下的面积，而ROC曲线的横轴是FPRate，纵轴是TPRate，当二者相等时，即y=x，
    # auc就是计算我们混淆矩阵中在roc下的面积，大于0.5，如果等于0.5，效果不好
    #AUC的优势，AUC的计算方法同时考虑了分类器对于正例和负例的分类能力，在样本不平衡的情况下，依然能够对分类器作出合理的评价

AUC socre: 0.75

# 回归的指标计算 #

# coding=utf-8
    import numpy as np
    from sklearn import metrics
    
    # MAPE需要自己实现
    def mape(y_true, y_pred):
        return np.mean(np.abs((y_pred - y_true) / y_true))
    
    y_true = np.array([1.0, 5.0, 4.0, 3.0, 2.0, 5.0, -3.0])
    y_pred = np.array([1.0, 4.5, 3.8, 3.2, 3.0, 4.8, -2.2])
    
    # MSE
    print('MSE:',metrics.mean_squared_error(y_true, y_pred))
    # RMSE
    print('RMSE:',np.sqrt(metrics.mean_squared_error(y_true, y_pred)))
    # MAE
    print('MAE:',metrics.mean_absolute_error(y_true, y_pred))
    # MAPE
    print('MAPE:',mape(y_true, y_pred))

MSE: 0.2871428571428571
    RMSE: 0.5358571238146014
    MAE: 0.4142857142857143
    MAPE: 0.1461904761904762

## R2-score
    from sklearn.metrics import r2_score
    y_true = [3, -0.5, 2, 7]
    y_pred = [2.5, 0.0, 2, 8]
    print('R2-score:',r2_score(y_true, y_pred))
    # 公式上面给出

R2-score: 0.9486081370449679

作为切入一道赛题的基础，赛题理解是极其重要的，对于赛题的理解甚至会影响后续的特征工程构建以及模型的选择，最主要是会影响后续发展工作的方向，比如挖掘特征的方向或者存在问题解决问题的方向，对了赛题背后的思想以及赛题业务逻辑的清晰，也很有利于花费更少时间构建更为有效的特征模型，赛题理解要达到的地步是什么呢，把一道赛题转化为一种宏观理解的解决思路。  
以下将从多方面对于此进行说明：

*  1） 赛题理解究竟是理解什么：  
    理解赛题是不是把一道赛题的背景介绍读一遍就OK了呢？并不是的，理解赛题其实也是从直观上梳理问题，分析问题是否可行的方法，有多少可行度，赛题做的价值大不大，理清一道赛题要从背后的赛题背景引发的赛题任务理解其中的任务逻辑，可能对于赛题有意义的外在数据有哪些，并对于赛题数据有一个初步了解，知道现在和任务的相关数据有哪些，其中数据之间的关联逻辑是什么样的。 对于不同的问题，在处理方式上的差异是很大的。如果用简短的话来说，并且在比赛的角度或者做工程的角度，就是该赛题符合的问题是什么问题，大概要去用哪些指标，哪些指标是否会做到线上线下的一致性，是否有效的利于我们进一步的探索更高线上分数的线下验证方法，在业务上，你是否对很多原始特征有很深刻的了解，并且可以通过EDA来寻求他们直接的关系，最后构造出满意的特征。
 *  2） 有了赛题理解后能做什么：  
    在对于赛题有了一定的了解后，分析清楚了问题的类型性质和对于数据理解的这一基础上，是不是赛题理解就做完了呢? 并不是的，就像摸清了敌情后，我们至少就要有一些相应的理解分析，比如这题的难点可能在哪里，关键点可能在哪里，哪些地方可以挖掘更好的特征，用什么样得线下验证方式更为稳定，出现了过拟合或者其他问题，估摸可以用什么方法去解决这些问题，哪些数据是可靠的，哪些数据是需要精密的处理的，哪部分数据应该是关键数据（背景的业务逻辑下，比如CTR的题，一个寻常顾客大体会有怎么样的购买行为逻辑规律，或者风电那种题，如果机组比较邻近，相关一些风速，转速特征是否会很近似）。这时是在一个宏观的大体下分析的，有助于摸清整个题的思路脉络，以及后续的分析方向。
 *  3） 赛题理解的-评价指标：  
    为什么要把这部分单独拿出来呢，因为这部分会涉及后续模型预测中两个很重要的问题：  
    1． 本地模型的验证方式，很多情况下，线上验证是有一定的时间和次数限制的，所以在比赛中构建一个合理的本地的验证集和验证的评价指标是很关键的步骤，能有效的节省很多时间。  
    2． 不同的指标对于同样的预测结果是具有误差敏感的差异性的，比如AUC，logloss, MAE，RSME，或者一些特定的评价函数。是会有很大可能会影响后续一些预测的侧重点。
 *  4） 赛题背景中可能潜在隐藏的条件：  
    其实赛题中有些说明是很有利益-都可以在后续答辩中以及问题思考中所体现出来的，比如高效性要求，比如对于数据异常的识别处理，比如工序流程的差异性，比如模型运行的时间，比模型的鲁棒性，有些的意识是可以贯穿问题思考，特征，模型以及后续处理的，也有些会对于特征构建或者选择模型上有很大益处，反过来如果在模型预测效果不好，其实有时也要反过来思考，是不是赛题背景有没有哪方面理解不清晰或者什么其中的问题没考虑到。