电商社交数据在大数据风控的应用实践

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

随着普惠金融业务的深入,以及消费金融业务竞争的白热化,针对信用白户的风控显得尤为重要。如何面向信用白户进行快速有效的信用评级,卧龙大数据根据自己的实践经验,就电商、社交数据在风控上的应用价值与大家进行一些分享。

大数据

电商社交数据的数据覆盖度

卧龙和众多不同类型金融机构进行了数据匹配测试,下图为各类金融机构的互联网行为数据整体匹配情况。

大数据

可以看出:

传统的农商行主要面对线下人群,线上数据的匹配率很低,要利用电商社交数据做信用评估基本不可行,利用大数据引流获客倒是一个值得关注的方向;

对于大型股份制银行以及消费金融公司特别是网贷平台,数据匹配率可以达到50%及以上,具有较大的大数据风控分析潜力。

电商社交数据的反欺诈应用

基于电商和社交数据,我们依照传统的反欺诈和信用评估两个方向进行分析体系构建,也得到了一些很有意思的分析结论:

(1) 电商数据反欺诈

总所周知,在某宝平台,上至豪宅别墅下至铁钉牙签,尤其是各种线下服务,除了吸毒犯罪,几乎没有不能卖的,正是这种特性给了我们很大的分析空间。

下面是我们获取到的一批典型案例:

大数据

根据我们对一批用户的互联网行为特征进行跟踪,发现了一些很有趣的特征。建模分析过程如图所示:

大数据

对于其中发现的一批关键词,我们进行term weight分析,聚类如下图所示所示:

大数据

经过对近十万逾期和欺诈用户的百万条互联网行为记录进行分析,按关键词不同可以分为三个客群:

1、老赖客群:

典型的诸如让银行头疼的老赖、资产纠纷用户会关联到法律纠纷等关键词;

2、多头借贷:

这些用户会关联到新口子、套现、京东白条、蚂蚁花呗、苏宁金融等关键词 ,通过薅羊毛的手法走各种新平台,拆东墙补西墙;

3、黑产中介:

这些用户则会关联到周卡、零配件设备号等关键词。从黑产中介的跟踪情况看,当前黑产已经形成一条极度隐蔽而且设备高度自动化的产业链。

利用这批关键词,结合业务知识以及机器学习算法挖掘,我们找到上千个异常关键词,几十万量级的黑产商品,并通过商品关联到百万量级异常用户。同时我们发现,某宝也在极力打压黑产异常商品,我们分析的商品,部分在某宝上面会不定时消失,所以这批异常数据基本属于卧龙所独有。

这批数据通过分析发现很多并不在传统的多头借贷、网贷黑名单数据库当中,可以作为黑名单库的一个补充,同时在几家合作公司测试也得到良好反馈。

(2)社交数据反欺诈

社交领域数据是另外一个比较有趣的话题,除了直接关注贷款类、涉黑类话题的用户,我们通过图数据库、PageRank算法等社交分析工具找到一批刷单刷帖用户。

具体过程如下:

大数据

这中间最有意思的就是号码的重叠度,现有公布的的黑产名单与我们分析的社交刷单刷帖灰名单用户有极大的重叠度,结论就是:物尽其用!实名制的普及带来的是号码资源稀缺,最大化价值利用是黑产平台的主要特点,这也给我们基于大数据的反欺诈提供了线索。

电商社交数据在风控建模的应用

信用评估一直是金融领域的重中之重。在介绍卧龙电商和社交数据的信用评估领域应用时,先普及几个基本知识。

(1) 模型评估维度

大数据

(2) 模型特征

大数据

业务经验法的例子包括根据品牌商品占比、主动评论占比、用户购物类目的分布占比情况等特征进行分析。一般购物类目分布越广,说明这个用户线上消费越强,刷单用户的可能性也就越低。

机器学习法的经典案例就是使用PageRank计算微博用户的影响力,一般PageRank值越大,影响力越高,用户失信的可能性也就越小。另外比如使用标签扩散法,通过黑名单库计算相应的用户灰名单概率权重特征。这些特征IV值(即Information Value,信息价值)一般都在0.1以上。下图为PageRank分段值在大额借贷和小额借贷中违约率中的关系。

大数据

PageRank得分不是越高风险越小,还需要根据其贷款产品进行区分,大额贷款(5万以上),越是高分用户,逾期违约可能性越大;小额贷款(5万及以下)则刚好相反。

通过业务经验以及机器学习方法,考虑购物品类的情况下,我们总共构造了3万多个指标,下图为我们筛选指标的一般流程:

大数据

下图为特征在样本中的空置率表现。可以看出很大一部分特征都有缺失,这是互联网数据的一大特点,也是目前最大的挑战。我们通过一定的阈值过滤掉部分特别稀疏的特征。

大数据

下图为我们挑选的50个特征IV值分布情况。相比银行信用卡等特征会偏弱一点(我们测试基于银行信用卡流水构造的特征,通常IV值能到0.4左右),但也是不可多得的良好特征变量。

大数据

在有效特征中数码配件、手机配件、零食、男女内衣类目等类目特征IV值较高。这种不对外显露的类目,能很好的区分一个人的消费水平。

(3)模型算法

传统的评分卡一般采用逻辑回归,因为这类模型可解释性强,便于沟通交流以及上级部门的监管。但我们采用的是可解释性虽然一般,但性能更强、效果更好的决策树模型。

模型架构图:

大数据

KS值:

大数据

通过电商以及社交数据,模型的KS值达到0.28,再加上传统贷款的申请表里的用户基本信息、资产信息授权信息,最终的建模KS效果达到0.36。

总结

1.电商社交数据适合线上行为活跃的群体,尤其是适合有场景用户,比如3C数码、医美、教育等消费分期领域。对线上行为特别稀疏的传统的线下人群,要利用电商社交数据做征信评估基本不可行。

2.特征不是越多越好,低值的特征多了反而降低模型整体的效果。并且特征越多,模型的可解释性分析困难越大,所以优质特征的筛选必不可少。

3.电商和社交数据用来做信用评估建模的效果不错,但是达不到直接使用的效果,因此电商和社交数据需要和其他数据配合使用,才能发挥最大的价值。

4.电商和社交数据在反欺诈领域的应用来得比信用评估更直接。卧龙识别出的异常购物记录和敏感行为用户坏账率比正常客户要高4.7倍。


本文作者:佚名

来源:51CTO

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
存储 机器学习/深度学习 分布式计算
大数据技术——解锁数据的力量,引领未来趋势
【10月更文挑战第5天】大数据技术——解锁数据的力量,引领未来趋势
|
3天前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
42 7
|
3天前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
14 2
|
16天前
|
数据采集 监控 数据管理
数据治理之道:大数据平台的搭建与数据质量管理
【10月更文挑战第26天】随着信息技术的发展,数据成为企业核心资源。本文探讨大数据平台的搭建与数据质量管理,包括选择合适架构、数据处理与分析能力、数据质量标准与监控机制、数据清洗与校验及元数据管理,为企业数据治理提供参考。
58 1
|
1月前
|
SQL 存储 分布式计算
ODPS技术架构深度剖析与实战指南——从零开始掌握阿里巴巴大数据处理平台的核心要义与应用技巧
【10月更文挑战第9天】ODPS是阿里巴巴推出的大数据处理平台,支持海量数据的存储与计算,适用于数据仓库、数据挖掘等场景。其核心组件涵盖数据存储、计算引擎、任务调度、资源管理和用户界面,确保数据处理的稳定、安全与高效。通过创建项目、上传数据、编写SQL或MapReduce程序,用户可轻松完成复杂的数据处理任务。示例展示了如何使用ODPS SQL查询每个用户的最早登录时间。
90 1
|
10天前
|
存储 大数据 定位技术
大数据 数据索引技术
【10月更文挑战第26天】
24 3
|
10天前
|
存储 大数据 OLAP
大数据数据分区技术
【10月更文挑战第26天】
39 2
|
13天前
|
消息中间件 分布式计算 大数据
数据为王:大数据处理与分析技术在企业决策中的力量
【10月更文挑战第29天】在信息爆炸的时代,大数据处理与分析技术为企业提供了前所未有的洞察力和决策支持。本文探讨了大数据技术在企业决策中的重要性和实际应用,包括数据的力量、实时分析、数据驱动的决策以及数据安全与隐私保护。通过这些技术,企业能够从海量数据中提取有价值的信息,预测市场趋势,优化业务流程,从而在竞争中占据优势。
45 2
|
15天前
|
边缘计算 人工智能 搜索推荐
大数据与零售业:精准营销的实践
【10月更文挑战第31天】在信息化社会,大数据技术正成为推动零售业革新的重要驱动力。本文探讨了大数据在零售业中的应用,包括客户细分、个性化推荐、动态定价、营销自动化、预测性分析、忠诚度管理和社交网络洞察等方面,通过实际案例展示了大数据如何帮助商家洞悉消费者行为,优化决策,实现精准营销。同时,文章也讨论了大数据面临的挑战和未来展望。
|
16天前
|
机器学习/深度学习 数据采集 搜索推荐
大数据与金融风控:信用评估的新标准
【10月更文挑战第31天】在数字经济时代,大数据成为金融风控的重要资源,特别是在信用评估领域。本文探讨了大数据在金融风控中的应用,包括多维度数据收集、智能数据分析、动态信用评估和个性化风控策略,以及其优势与挑战,并展望了未来的发展趋势。