DataVisor大数据独创算法,实现真正智能的反欺诈预警

简介:

互联网的发展,让在线服务呈现爆炸式增长,从而产生的亿万互联网用户的身份标签。社交网站、电商、互联网金融等越来越活跃的今天,互联网带来便捷的同时也带来风险。各种欺诈活动,层出不穷,社交网上假屏,刷帖电商上有的是薅羊毛,刷单,金融领域它有身份盗取,开假帐号,信用卡交易欺诈,银行转账欺诈,洗钱等等。归根到底都是属于那种恶意的帐号的活动。

今天基于大数据分析的欺诈预警和检测,成为互联网的必备手段,但是传统的数据分析都是利用建模、数据画像、监督等安全监测手段,都需要提供已有的监测算法、人工标签或者训练数据,来建立监测发现已知的恶意活动。但是欺诈行业有它的特殊性,特殊性就在于它所面对的是不断变换的欺诈者,不断变化的欺诈方式。同时知道你的防线、你的防御,能够绕过这些平台上已经采取的一些检测手段,所以它一直是有一些敌我之间这种相互的博弈状况。包括早期的规则系统,包括下一代有监督的机器学习,但是这些手段又具有局限性。

但是我们知道各种欺诈的源头就是在代表亿万互联网用户的身份的数字账号。如果能在账号建立之初就能做出预警和检测,那么用户的损失就能减少最低。近日DataVisor CEO兼联合创始人Yinglian Xie(谢映莲)接受包括至顶网在内的媒体采访。详细介绍了DataVisor利用当前先进的人工智能技术研发的基于Spark大数据平台独创的无监督欺诈检测服务算法平台,为面向用户的网站提供包括个体欺诈和分布式群体欺诈的先进的反欺诈检测服务。

DataVisor大数据独创算法,实现真正智能的反欺诈预警

 

DataVisor CEO兼联合创始人Yinglian Xie

DataVisor 是2013年成立的一家硅谷初创技术创新企业,谢映莲表示公司的愿景是希望利用最先进的人工智能技术,结合大数据应用,最大程度保护用户的数字资产。

数字用户与现实用户的防范在本质上相同。就像你要了解一个人,不仅要通过这个人本身,还要通过他的周边的联系,才能全面系统的做个了解。数字用户同样如此,数字用户主要基于数据的判断,数据有两个不同的维度,一个维度是每个用户可以有很详细的画像,这是一个维度,目前大数据分析公司很多都是走的这个维度,让这个用户的行为越详细,越充分,你就越容易判断。DataVisor在这个维度之外,有提出另外一种维度,就是挖掘纵向的用户之间的关系。当成千上万的用注册一起看的时候,通过对数据不同方式的挖掘,提供不同层次的对于恶意活动和欺诈的预判。这就需要更高挑战、更复杂的算法。

DataVisor基于Spark大数据平台独创的无监督欺诈算法,是DataVisor独创的高效欺诈检测算法。它与传统的基于既定规则或基于监督学习模型的算法不同。此算法无需客户提供标注数据,每小时可分析数十亿新发生的事件,对新型的、变化多端的欺诈行为进行提前预警,并提早自动发现未知的恶意欺诈行为,为网络欺诈和金融犯罪提供检测服务。

基于对海量用户账户的行为、设备、IP地址等进行高纬度用户画像及全方位的关联和相似性分析。DataVisor大数据系统会自动挖掘出潜在的各种群体性(手动操作或基于自动作弊脚本的)隐蔽欺诈行为。谢映莲谈到这项算法技术无需训练数据或标签。比如发现一个新型的欺诈用户群组,虽然该欺诈用户群组在实施欺诈和恶意攻击前会潜伏一段时间,传统检测手段不容易发现,但DataVisor的无监督用户分析服务能够自动发现用户间的相似性和整个组织的异常行为,比如在发动攻击前会做少量但极相似的交易测试。DataVisor能够做出判断,大大提升自动封禁或者人工审核的效率。

具体来讲,DataVisor无监督用户分析服务有几个特点: 第一是实现早期预警,DataVisor能够在欺诈性用户发动攻击之前进行预警。90%的欺诈性交易或者恶意用户能够被提前或者实时检测。在保证用户实际损失之前就检测到恶意用户或者欺诈账号。

第二个就是超高的覆盖率和准确率。DataVisor能够检测整条攻击产业链。比如发现一个新型的欺诈用户群组,虽然该欺诈用户群组在实施欺诈和恶意攻击前会潜伏一段时间,传统检测手段不容易发现,但DataVisor的无监督用户分析服务能够自动发现用户间的相似性和整个组织的异常行为,比如在发动攻击前会做少量但极相似的交易测试。DataVisor能够做出判断,大大提升自动封禁或者人工审核的效率。

第三,无监督检测,无需人工标记和训练数据,自动发现未知攻击。每天检测50万以上的恶意账号。第四海量的可扩展性,每小时分析数十亿的事件日志。每天为四亿多用户保驾护航。

DataVisor无监督用户分析服务,区别于传统的事件级别检测或用户级别检测,以无监督反欺诈检测算法(目前正在申请专利)为核心技术,结合其它检测分析技术,如有监督机器学习、自动规则引擎和全球智能信誉库。同时DataVisor支持Spark、Hadoop、HBase、ES等多种大数据处理框架,拥有超高的计算效率,可同时处理数十亿事件数据分析工作,对所有用户进行全局分析,识别用户之间隐藏的关联,并对异常用户账号进行早期预警。

目前,DataVisor全球累计处理超过6千亿的用户事件,检测超过1亿3千万的坏用户,保护超过20亿来自全球大型互联网公司的用户,客户包括阿里巴巴、猎豹移动、陌陌、Yelp、Pinterest等。比如陌陌采用DataVisor所提供的解决方案后,陌陌平台上的垃圾信息、网络钓鱼、非法广告和盗号行为均有了大幅度的减少。对于陌陌来讲免受各种欺诈,spam的干扰,能够更专注与业务发展,保证用户群的增长和服务。


原文发布时间为: 2017年7月25日

本文作者:任新勃

本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。

相关实践学习
基于Hologres轻量实时的高性能OLAP分析
本教程基于GitHub Archive公开数据集,通过DataWorks将GitHub中的项⽬、行为等20多种事件类型数据实时采集至Hologres进行分析,同时使用DataV内置模板,快速搭建实时可视化数据大屏,从开发者、项⽬、编程语⾔等多个维度了解GitHub实时数据变化情况。
阿里云实时数仓实战 - 用户行为数仓搭建
课程简介 1)学习搭建一个数据仓库的过程,理解数据在整个数仓架构的从采集、存储、计算、输出、展示的整个业务流程。 2)整个数仓体系完全搭建在阿里云架构上,理解并学会运用各个服务组件,了解各个组件之间如何配合联动。 3 )前置知识要求:熟练掌握 SQL 语法熟悉 Linux 命令,对 Hadoop 大数据体系有一定的了解   课程大纲 第一章 了解数据仓库概念 初步了解数据仓库是干什么的 第二章 按照企业开发的标准去搭建一个数据仓库 数据仓库的需求是什么 架构 怎么选型怎么购买服务器 第三章 数据生成模块 用户形成数据的一个准备 按照企业的标准,准备了十一张用户行为表 方便使用 第四章 采集模块的搭建 购买阿里云服务器 安装 JDK 安装 Flume 第五章 用户行为数据仓库 严格按照企业的标准开发 第六章 搭建业务数仓理论基础和对表的分类同步 第七章 业务数仓的搭建  业务行为数仓效果图  
相关文章
|
机器学习/深度学习 自然语言处理 算法
大数据选举预测:算票的不只是选票,还有算法
大数据选举预测:算票的不只是选票,还有算法
515 0
|
机器学习/深度学习 算法 调度
14种智能算法优化BP神经网络(14种方法)实现数据预测分类研究(Matlab代码实现)
14种智能算法优化BP神经网络(14种方法)实现数据预测分类研究(Matlab代码实现)
797 0
|
算法 安全 定位技术
【创新未发表】【无人机路径巡检】三维地图路径规划无人机路径巡检GWO孙发、IGWO、GA、PSO、NRBO五种智能算法对比版灰狼算法遗传研究(Matlab代码实现)
【创新未发表】【无人机路径巡检】三维地图路径规划无人机路径巡检GWO孙发、IGWO、GA、PSO、NRBO五种智能算法对比版灰狼算法遗传研究(Matlab代码实现)
646 40
|
12月前
|
算法 搜索推荐 大数据
当“爆款书”遇上大数据:出版业的老路,正在被算法改写
当“爆款书”遇上大数据:出版业的老路,正在被算法改写
1324 8
|
12月前
|
存储 人工智能 安全
拔俗AI临床大数据科研分析平台:让医学研究更智能、更高效
阿里云原生AI临床大数据科研平台,打通异构医疗数据壁垒,实现智能治理、可视化分析与多中心安全协作,助力医院科研提速增效,推动精准医疗发展。
1868 1
|
数据采集 自动驾驶 机器人
数据喂得好,机器人才能学得快:大数据对智能机器人训练的真正影响
数据喂得好,机器人才能学得快:大数据对智能机器人训练的真正影响
1183 1
|
算法 搜索推荐 大数据
大数据能不能看透消费者的心?聊聊那些“你以为是偶然,其实是算法的必然”
大数据能不能看透消费者的心?聊聊那些“你以为是偶然,其实是算法的必然”
510 5
|
12月前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
909 0
|
存储 人工智能 算法
Java 大视界 -- Java 大数据在智能医疗影像数据压缩与传输优化中的技术应用(227)
本文探讨 Java 大数据在智能医疗影像压缩与传输中的关键技术应用,分析其如何解决医疗影像数据存储、传输与压缩三大难题,并结合实际案例展示技术落地效果。

热门文章

最新文章