CDA数据分析师 出品
前言:
大数据使企业能够确定变量,预测自家公司的员工离职率。" ——《哈佛商业评论》2017年8月
"员工流失分析就是评估公司员工流动率的过程,目的是预测未来的员工离职状况,减少员工流失情况。" ——《福布斯》2016年3月
一、背景介绍
1. 数据来源
本项目数据集来自DataCastle训练赛。
【私信我领取】
2. 数据说明
比赛所用到的数据取自于IBM Watson Analytics分析平台分享的样例数据。我们只选取了其中的子集,并对数据做了一些预处理使数据更加符合逻辑回归分析模型的要求。
数据主要包括影响员工离职的各种因素(工资、出差、工作环境满意度、工作投入度、是否加班、是否升职、工资提升比例等)以及员工是否已经离职的对应记录。 数据分为训练数据和测试数据,分别保存在和两个文件中。
3. 分析目的
测试数据主要包括350条记录,30个字段,跟训练数据的不同是测试数据并不包括员工是否已经离职的记录,学员需要通过由训练数据所建立的模型以及所给的测试数据,得出测试数据相应的员工是否已经离职的预测。
二、数据探索性分析
1. 数据读取
('max_columns',50)train = (';()test = (';()
2. 数据信息探索
()
3. 删除无用特征
train['Over18'].value_counts() # 只包含一种属性train = (['EmployeeNumber','Over18'],axis=1) # 删除无用特征
4. 描述性统计
4.1 年龄、性别与是否离职关系图
f,ax=(1,2,figsize=(18,8("Gender","Age", hue="Attrition", data=train,split=True,ax=ax[0])ax[0].set_title('Gender and Age vs Attrtion');
4.2 工作水平、部门与是否离职关系图
f,ax=(1,2,figsize=(20,8('JobLevel',hue='Attrition',data=train,ax=ax[0])ax[0].set_title('JobLevel vs Attrition'('Department',hue='Attrition',data=train,ax=ax[1])ax[1].set_title('Department vs Attrition');
4.3 月收入与离职情况关系图
f,ax=(1,2,figsize=(20,8(train[train['Attrition']==1].MonthlyIncome,ax=ax[0])ax[0].set_title('MonthlyIncome vs Attrition=1'(train[train['Attrition']==0].MonthlyIncome,ax=ax[1])ax[1].set_title('MonthlyIncome vs Attrition=0');
4.4 婚姻状况、性别与是否离职关系图
('MaritalStatus','Attrition',data=train,col='Gender');
4.5 出差情况与是否离职关系图
f,ax=(1,2,figsize=(20,8('BusinessTravel','Attrition',data=train,ax=ax[0])ax[0].set_title('BusinessTravel vs Attrition')('BusinessTravel','Attrition',data=train,ax=ax[1])ax[1].set_title('BusinessTravel vs Attrition'(2);
综上图可以看出,离职人员特征包括偏年轻化,男性稍多,单身,月收入较低,加班等。
三、数据预处理
1. 字符型变量数值化
sklearn只允许数值类型变量进入模型学,所以需要提前将字符型变量数值化,为后续建模做准备。
# 筛选出字符型的变量col = []for i in : if [:,i].dtype=='object': col.append(i) # 导入相关模块进行数据类型转换from import OrdinalEncoder[:,col] = OrdinalEncoder().fit_transform([:,col])[:,col].head()
2. 相关性检验
逻辑回归属于广义线性回归,对自变量间的独立性有所要求,所以在这里我们使用皮尔逊相关系数对自变量进行相关性检验,对相关性较高的特征进行进一步筛选。
(),annot=True) #()-->correlation matrixfig=(20,20);
其中月收入与职位级别相关性呈强正相关关系,在这里我们保留职位级别,将月收入自变量删除。
3. 分类变量独热编码
为什么使用独热编码?
将离散特征通过one-hot编码映射到欧式空间,是因为,在回归,分类,聚类等机器学习算法中,特征之间距离的计算或相似度的计算是非常重要的,而我们常用的距离或相似度的计算都是在欧式空间的相似度计算,计算余弦相似性,基于的就是欧式空间。
使用独热编码的优缺点?
· 优点:独热编码解决了分类器不好处理属性数据的问题,在一定程度上也起到了扩充特征的作用。它的值只有0和1,不同的类型存储在垂直的空间。
· 缺点:当类别的数量很多时,特征空间会变得非常大。在这种情况下,一般可以用PCA来减少维度。而且one hot encoding+PCA这种组合在实际中也非常有用。
X = [:,!='Attrition']Y = [:,'Attrition']X_onehot = X.drop(['Age','NumCompaniesWorked','PercentSalaryHike','TotalWorkingYears','YearsAtCompany','YearsInCurrentRole', 'YearsSinceLastPromotion', 'YearsWithCurrManager'],axis=1)from import OneHotEncoderX_onehot = OneHotEncoder().fit_transform(X_onehot)X_onehot = X_one()X_other = X.loc[:,['Age','NumCompaniesWorked','PercentSalaryHike','TotalWorkingYears','YearsAtCompany','YearsInCurrentRole', 'YearsSinceLastPromotion', 'YearsWithCurrManager']]X_o = ([(X_onehot),X_other],axis=1
四、模型学习
1. 划分训练集和验证集
from import train_test_splitXtrain,Xtest,Ytrain,Ytest = train_test_split(X,Y,test_size=0.2,random_state=42
2. 逻辑回归模型构建
from import LogisticRegressionLR = LogisticRegression().fit(Xtrain,Ytrain(Xtest,Ytest)
初步模型结果为0.84,还需待进一步调参。
3. 模型评估
from import recall_scorerecall_score(Ytest,LR.predict(Xtest))
1类样本召回率略低,只有0.42。可以考虑是否要做样本不均衡性处理。
五、模型调参
from import GridSearchCVparams = {'penalty':['l1','l2'], 'C':np.arange(1,10,0.1)}gd = GridSearchCV(LogisticRegression(solver='liblinear'),param_grid=params,cv=10(Xtrain,Ytrain)prin)prin)LR_o = LogisticRegression(penalty='l1',C=1.2000000000000002).fit(Xtrain,Ytrain(Xtest,Ytest)
调参结果不错,训练集准确率提升到了0.88,验证集准确率也达到了0.85.
六、预测分析
模型建立完成之后,就需要读入测试集并进行预测。这里注意,需要对测试集按照训练集进行相同处理:包括删除变量、转换数据类型、独热编码等操作。
test = (['EmployeeNumber','Over18','MonthlyIncome'],axis=1)# 筛选出字符型的变量col = []for i in : if [:,i].dtype=='object': col.append(i) from import OrdinalEncoder[:,col] = OrdinalEncoder().fit_transform([:,col])[:,col].head()test_onehot = (['Age','NumCompaniesWorked','PercentSalaryHike','TotalWorkingYears','YearsAtCompany','YearsInCurrentRole', 'YearsSinceLastPromotion', 'YearsWithCurrManager'],axis=1) from import OneHotEncodertest_onehot = OneHotEncoder().fit_transform(test_onehot)test_onehot = test_one()test_other = [:,['Age','NumCompaniesWorked','PercentSalaryHike','TotalWorkingYears','YearsAtCompany','YearsInCurrentRole', 'YearsSinceLastPromotion', 'YearsWithCurrManager']]test_o = ([(test_onehot),test_other],axis=1solution = ({'result':LR_o.predict(X)})solution
solution是通过我们已经调整好的模型对测试集做预测的最终结果。
得到结果之后,我们就可以上传至竞赛平台与真实值进行对比了。本课件中的代码结果在测试集中预测准确率达0.91428,预测结果显著并可以为实际业务进行辅助决策。
七、总结
通过对测试集的观察,该公司的员工离职现状可以总结如下:
· 当前离职率为11.82%;
· 由于企业培养人才是需要大量的成本, 为了防止人才再次流失, 因此应当注重解决人才的流失问题, 也就是留人, 另外如果在招人时注意某些问题, 也能在一定程度上减少人才流失. 因此, 这里可将对策分为两种, 一种是留人对策, 一种是招人对策。
留人对策
· 建立良好的薪酬制度
· 建立明朗的晋升机制
· 完善奖惩机制, 能者多劳, 也应多得
· 实现福利多样化, 增加员工对企业的忠诚度
· 重视企业文化建设, 树立共同的价值观
· 鼓励员工自我提升
· ………………
招人对策
· 明确企业招聘需求, 员工的能力应当与岗位需求相匹配,而不是为指标而招
· 与应聘者坦诚相见,不得为了指标而诓骗应聘者
· 招聘期间给予的相关承诺需要建立完备的兑现政策
· 欢迎优秀流失人才回归
· …………