基于随机森林的信用卡满意度模型预测
本文介绍了如何利用机器学习技术构建信用评分模型，以帮助金融机构评估借款人的信用风险并做出贷款决策。文章首先从数据预处理开始，包括数据读取、清洗和特征工程，以确保数据质量和适用性。接着，通过可视化分析了贷款金额、贷款等级和贷款状态等关键特征，以便更好地理解数据。随后，使用随机森林分类器进行模型训练，并评估了模型在测试集上的性能，包括准确率、精确率、召回率和F1值等指标。最终，通过优化模型并展望未来的研究方向，为金融业务的发展提供了重要参考。
1、数据读取： 我们使用 Pandas 库从 CSV 文件中读取数据集，其中包含了个人贷款信息。
def read_data_from_csv(): # 读取数据 data = pd.read_csv("data/new_file.csv").sample(n=20000,random_state=42) return data
2、数据清洗： 我们删除了一些与建模无关的特征，如 ‘id’、‘url’、‘desc’、‘member_id’ 等。
# 删除无关特征，如id，url等 data.drop(['id', 'url', 'desc', 'member_id'], axis=1, inplace=True)
3、处理缺失值： 我们使用均值填充了数值型特征中的缺失值，并使用线性插值方法填充了剩余的缺失值。
# 处理缺失值 # data.dropna(inplace=True) # df = data.fillna(data.mean()) # df.replace([np.inf, -np.inf], np.nan, inplace=True) # df = df.fillna(df.mean()) nan_values = data.isnull().values.any() print(nan_values) inf_values = data[data == np.inf].values.any() print(inf_values) # 使用均值填充 NaN 值 data.fillna(data.mean(), inplace=True) # 在数据中估算 NaN 值填充 data.interpolate(method='linear', inplace=True)
4、特征工程： 我们对日期特征进行了处理，计算了贷款发放月份与最早信用账户开设月份之间的差值，并对类别型特征进行了编码。
def data_feature(data): # 处理日期特征 data['earliest_cr_line'] = pd.to_datetime(data['earliest_cr_line']) data['issue_d'] = pd.to_datetime(data['issue_d']) # 创建新特征：贷款发放月份与最早信用账户开设月份之间的差值 data['credit_hist'] = (data['issue_d'] - data['earliest_cr_line']).dt.days # 删除日期特征 data.drop(['earliest_cr_line', 'issue_d'], axis=1, inplace=True) # 对类别型特征进行编码 cat_cols = data.select_dtypes(include=['object']).columns le = LabelEncoder() for col in cat_cols: data[col] = le.fit_transform(data[col]) return data
数据可视化与分析
在构建模型之前，我们对数据进行了可视化分析，以更好地理解数据的分布和特征之间的关系。
1、贷款金额的分布可视化： 我们绘制了贷款金额的直方图，以了解贷款金额的分布情况
def loan_amount(df): # 直方图 plt.figure(figsize=(10, 6)) sns.histplot(df['loan_amnt'], bins=30, kde=True, color='skyblue') plt.title('Loan Amount Distribution') plt.xlabel('Loan Amount') plt.ylabel('Frequency') plt.show()
2、贷款等级的分布可视化： 我们绘制了贷款等级的柱状图，以了解不同等级贷款的分布情况。
def grade_distribution(df): # 柱状图 plt.figure(figsize=(10, 6)) df['grade'].value_counts().plot(kind='bar', color='lightgreen') plt.title('Grade Distribution') plt.xlabel('Grade') plt.ylabel('Frequency') plt.show()
3、不同贷款状态下年收入的箱线图： 我们绘制了不同贷款状态下年收入的箱线图，以了解贷款状态与年收入之间的关系。
def loan_status(df): # 箱线图 plt.figure(figsize=(10, 6)) sns.boxplot(x='loan_status', y='annual_inc', data=df) plt.title('Annual Income Distribution by Loan Status') plt.xlabel('Loan Status') plt.ylabel('Annual Income') plt.show()
通过这些可视化分析，我们对数据的特征有了更深入的理解，为后续模型的构建提供了帮助。
使用热力图展示了不同特征之间的相关性强弱，相关性热力图可以帮助我们理解特征之间的线性相关性
def coolwarm(preprocessed_df): # 热力图 plt.figure(figsize=(12, 8)) corr = preprocessed_df.corr() sns.heatmap(corr, cmap='coolwarm', annot=False) plt.title('Correlation Heatmap') plt.show()
模型训练与评估
在数据预处理和分析之后，我们使用随机森林分类器对数据进行了训练，并评估了模型在测试集上的性能。
def model_train_main(data): # 划分特征和目标变量 X = data.drop('loan_status', axis=1) y = data['loan_status'] # 数据标准化 scaler = StandardScaler() X_scaled = scaler.fit_transform(X) # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X_scaled, y, test_size=0.2, random_state=42) # 模型训练 rf_model = RandomForestClassifier(n_estimators=100, random_state=42) rf_model.fit(X_train, y_train) # 预测 y_pred = rf_model.predict(X_test) # 评估模型 accuracy = accuracy_score(y_test, y_pred) print("Accuracy:", accuracy) print("Classification Report:\n", classification_report(y_test, y_pred))
结论与展望
通过本文的介绍，我们完成了一个基于机器学习的信用评分模型的构建与分析过程。该模型可以作为金融机构评估借款人信用风险的重要工具，为贷款决策提供参考。未来，我们可以进一步优化模型，探索更多的特征工程方法和机器学习算法，以提高模型的准确性和稳健性。
