碰到样本数据类别不均衡怎么办？

如果有 10000个样例， 做二分类，9990条数据 都属于 正类1， 如果不处理的话 预测全部结果为 1， 准确率也为 99%，但这显然不是想要的结果。

碰到这样样本很不平衡的样例，应该怎样做。

 

前期数据准备

1. 欠采样

def down_sample(df):

    df1=df[df['label']==1] #正例

    df2=df[df['label']==0] ##负例

    df3=df2.sample(frac=0.25) ##抽负例

    return pd.concat([df1,df3],ignore_index=True)
 

对样本量很大的类，抽取更少的样本，达到样本平衡2.

2. 过采样

def up_sample(df):

    df1=df[df['label']==1] #正例

    df2=df[df['label']==0] ##负例

    df3=pd.concat([df1,df1,df1,df1,df1],ignore_index=True)
    return pd.concat([df2,df3],ignore_index=True)

 

     对样本量偏少的数据，采用重复采样的策略

模型中调整调整权重

很多分类模型都有设置权重的参数

 1.  xgboost 设置 : scale_pos_weight

 

如 做二分类，0/1， 0：1 = 1：100 可以设置scale_pos_weight=100

 

2. RF 设置： class_weight

可以指定, 但对于多分类问题需要注意：

  • For example, for four-class multilabel classification weights should be [{0: 1, 1: 1}, {0: 1, 1: 5}, {0: 1, 1: 1}, {0: 1, 1: 1}] instead of [{1:1}, {2:5}, {3:1}, {4:1}].
  • The “balanced” mode uses the values of y to automatically adjust weights inversely proportional to class frequencies in the input data as  n_samples / (n_classes * np.bincount(y))

得到结果后寻找最优阈值

调整threshold的值，得到最优结果

Threshold = 0.45

for j in range(len(preds)):
    if preds[j]>=Threshold :
        preds[j]=1
　　else :
　　　　preds[j]=0

评价指标：

使用准确度 结果可能不准确。可以尝试 Confusion Matrix, Precision, Recall, Auc_Roc

版权声明：本文为gaoss原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://www.cnblogs.com/gaoss/p/9677466.html