2022云栖精选—图计算发展的回顾与展望

简介: 摘要:本文整理自上海交通大学安泰经济与管理学院数据与商务智能系讲席教授、数据与商务智能系系主任、欧洲科学院院士、IEEE Fellow林学民,在云栖大会“图计算及其应用”分论坛的分享。本篇内容主要分为四个部分:1. 子图罗列Subgraph Enumeration2. 内聚子图Cohesive Subgraphs3. 网络弹性Network Resilience4. 二分图Bipartite Graph

lQLPJxbcF2cqNBvMiM0FeLCMz4ifcSGHeANpqgFLAEAA_1400_136.png

什么是图?这个图不是我们平时说的图形或者图像,这个图是点和边。点代表事物,边表示他们之间的关系。

 

image.png

 

我们最早知道图是欧拉定理和格尼斯堡七桥问题,然后翻山越岭,经过历史的长河,我们来到了本世纪初的图数据库和大图计算。

 

image.png

 

现在各行各业都需要图,比如:Web Graph, Social NetworkProtein Interaction Network等等。下图是一个图的应用场景,左边是各种各样的应用,应用可以分解出基本算子,然后基本算子再分解出最基本算子,所以做系统就要把最基本算子处理好。

 

image.png

 

一、子图罗列Subgraph Enumeration

 

左边P是模式图,中间G是数据图,通常模式图比较小,可能就是几个点,数据图有可能非常大。下面是从G中找到所有和P同构的子图实例的三个样例。所以能想象,在实际应用中这种映射有可能会有成千上万,甚至上亿的量。

 

image.pngimage.pngimage.png

 

下面来分享一下子图罗列在各行各业中的应用。

 

1.   实时周期检测

 

下图是几年前和阿里合作的实时周期检测项目,主要用于欺诈检测和洗钱检测。

 

image.png

 

2.   检测指定社区

 

image.png

 

3.   CPU解决方案

 

image.png

 

4.   分布式技术

 

在分布式技术中没有哪一个算法是最好的,需要我们根据数据分布选择适合的算法。

 

image.png

 

二、内聚子图Cohesive Subgraphs

 

下图是曾经和阿里合作的一个项目,目的是抓住刷单的水军。这个问题我们是怎么解决的呢?其实就是将问题转化成抓Bi-Clique就可以了。

 

image.png

 

所谓的Clique就是每两个点之间都有一条边,那么如何把所有的Clique或者最大的Clique找出来呢?这里就会有一个很大的难点。因为CliqueClique之间是可以重叠的,这样就会使数目变得非常大。

 

image.png

 

在数据库他们会做各种各样的变种,比如Quasi-Clique,那么如何定义他们呢?

 

比如clique的边数是| v | ( | v | )-1,那么Quasi-Clique就是γ | v | ( | v | )-1

 

image.png

 

K-PlexClique里它的度数等于n-1,那么K-Plex每个点的度数就会大于等于n-k

 

image.png

 

K-clique是子图中任意两个顶点之间的距离小于等于kK-club同样也是任意两个顶点之间的距离小于等于k,但是它的两点是指子群中两点的距离。

 

image.png

 

K-Core是指子图中每个点的度数大于等于k。这个就比较简单,比如现在这个图里找一度数最小的点,如果度数等于或者大于kfinish了。小于k的,我们就把它除掉,再update度数。

 

image.png

 

K-TrussK-Core的加强版,每条边上三角形的个数要大于等于k-2。那么为什么说K-Truss是加强版呢?你能想象一个K-Truss一定是k-1 Core,就是度数值一定是大于等于k-1的。

 

K-Truss的算法实际上和K-Core的差不多。算法复杂性就是把每条边上的三角形个数全部罗列出来,这也是一个多项式算法。

 

image.png

 

子图里的度数如果大于等于p乘以全局的度数就叫P-Cohesion

 

image.png

 

K-edge Connected是指一个图里去掉任意k减一条边,它仍然是联通的。所以K-edge Connected Component就是找最大的子图。这是一个分解算法,最坏的情形是N的三次方。

 

image.png

 

还有一个是K-vertex Connected Component,这个我们暂时没有找到非常快的算法。如果你们对这个话题感兴趣,可以来一起提高它的性能。

 

image.png

三、网络弹性Network Resilience

 

Friendster曾经是一家比较大的社交网站,但在2005年突然就collapse了。这到底是为什么呢,其实原因非常不好找。

 

就比如你去了一个party,好吃的东西和一个聊得来的人并不会让你留很久。如果想要长时间呆留在party,就需要很多这样的人才可以。

 

image.png

 

假如我是K-Core,给你的budgetb,也就是让你想办法留下b个人。这个b不用满足K-Core条件,那么b要怎么选才能让network最大呢?

 

image.png

 

最终我们没有找出非常快速的精确算法,所以就找了个近似算法。 这个论文发表在了VLDB 2017上。

 

image.png

 

四、二分图Bipartite Graph

 

所谓的Bipartite Graph就是把图分成两层,上面一层,下面一层。它们都没有边只有cross两层。

 

image.png

 

实际上它有很多应用,比如下图最左边的就是一个非常典型的academic的例子,上面是演员,下面是电影。

lQLPJxbcF2cqM2TM-M0CnrCgW_7LDpyh1wNpqgFKAPsA_670_248.png

相关文章
|
9月前
|
人工智能 安全 小程序
隐私计算产学研共建发展、隐语 1.0 超前路透(附视频回放)|Meetup 深圳站精华合集
隐私计算产学研共建发展、隐语 1.0 超前路透(附视频回放)|Meetup 深圳站精华合集
212 0
|
4月前
|
机器学习/深度学习 人工智能 分布式计算
外滩大会蚂蚁开源大规模图学习系统AGL
AGL 将持续的系统优化和能力创新,并将优秀的系统和算法实践开放到社区,本次开源为 AGL v0.1 版本。
外滩大会蚂蚁开源大规模图学习系统AGL
|
8月前
|
机器学习/深度学习 人工智能 算法
实用!50个大厂、987页大数据、算法项目落地经验教程合集
大数据、算法项目在任何大厂无论是面试还是工作运用都是非常广泛的,我们精选了50个百度、腾讯、阿里等大厂的大数据、算法落地经验甩给大家,千万不要做收藏党哦,空闲时间记得随时看看! 如果你没有大厂项目经验,对大厂算法、大数据的项目运用不了解建议你看看!
|
机器学习/深度学习 人工智能 分布式计算
阿里云大数据&AI 2022案例合集
阿里云2022大数据&AI精选产品案例合集,了解产品最新及最佳实践,助力企业实现降本增效。
阿里云大数据&AI 2022案例合集
|
11月前
|
大数据
《阿里云产品手册2022-2023 版》——大数据计算
《阿里云产品手册2022-2023 版》——大数据计算
|
运维 监控 Cloud Native
华为22级专家十年心血终成云原生服务网格进阶实战文档,是真的6
在All in Cloud时代,你不一定做云原生,但是必须要懂云原生,掌握云原生的开发者或架构师会更受企业的青睐!! 未来云原生应用也会逐步取代传统的本地开发应用。 云原生是基于分布部署和统一运管的分布式云 ,以容器、微服务、DevOps等技术为基础建立的一套云技术产品体系,既是一种新型技术体系,也是云计算未来的发展方向。
|
数据采集 运维 分布式计算
2022云栖精选—图计算在全域数据融合场景的实践
摘要:本文整理自StartDT资深算法专家的曾云,在云栖大会“图计算及其应用”分论坛的分享。本篇内容主要分为四个部分: 1. 公司介绍 2. 全域数据融合场景介绍 3. 图计算实践 4. 未来展望
2022云栖精选—图计算在全域数据融合场景的实践
|
存储 分布式计算 NoSQL
2022云栖精选—云栖大会-图计算及其应用论坛
摘要:本文整理自达摩院的资深技术专家与图计算团队的负责人于文渊老师,在云栖大会“图计算及其应用”分论坛的分享。本篇内容主要分为六个部分: 1. 实时离线一体图计算引擎 2. 全新的图交互查询/模式匹配IR与引擎 3. 图分析引擎的全新升级 4. 图学习引擎的全新升级 5. 图可视化解决方案 6. 用户友好型与易用性提升
293 76
2022云栖精选—云栖大会-图计算及其应用论坛
|
人工智能 网络协议 算法
2022云栖精选—IPv6规模部署和创新实践
中国信息通信研究院 技术与标准研究所 高巍
231 0
2022云栖精选—IPv6规模部署和创新实践
|
Ubuntu Java 大数据
如何入门大数据之基础准备(一)(超级详细介绍)
如何入门大数据之基础准备(一)(超级详细介绍)
125 0