大数据时代的新型数据库 — 图数据库 Neo4j 的应用

简介:

概览

微云数聚(北京)科技有限公司是一家实力雄厚的大数据技术公司,由移动互联网技术专家团队、大数据专业团队和建模博士团队组成。微云数聚专注于研究图数据库技术及其应用,是世界领先的图数据库Neo4j在中国的战略合作伙伴和官方代理,他们研制的Neo4j简体中文扩展版,是专为中国企业量身打造、符合中国企业习惯的图数据库系统,除了提供简体中文界面,还支持节点显示成图片,显示效果由数据驱动;增加了智能查询,并且开发了简便导入Excel、MySQL和Oracle的工具--导入精灵,这些扩展将极大促进Neo4j在华语地区的推广使用。微云数聚在华为的帮助下,在推介Neo4j的过程中,与中国互联网、大数据企业客户建立了良好的合作和信用关系,为Neo4j的市场开拓奠定了良好基础。

图数据库是大数据时代的一种新型数据库,它是基于数学中图论的算法而实现的高效处理复杂关系网络的新型数据库系统。它善于处理大量的、复杂的、互联的、多变的网状数据。其效率远远高于传统的关系型数据库的百倍、千倍甚至万倍。图数据库特别适用于社交网络、实时推荐、金融征信系统等广泛的领域。领英(LinkedIn)、沃尔玛、CISCO、HP、eBay等全球知名企业都在使用图数据库Neo4j。中国企业也在逐步开始用图数据库来构建自己的应用,尤其在征信领域,工商总局、天眼查、启信宝、企信宝、企业信用信息、企查查等APP都用了图数据库,著名的股票信息软件万德也已经开始使用图数据库。华为、联想也在密切关注图数据库Neo4j,考虑将它纳入PaaS平台。作为做了一辈子IT、研究了一辈子数据库的张帜,研制出具有中国自主产权的图数据库,将是他人生下一步的关键目标!


领英是如何实现朋友推荐的?沃尔玛是如何实现零售商品推荐的?因为他们用了图数据库 Neo4j,一种擅长处理复杂网状关系的新型数据库系统。本次分享包括如下内容:

一、图数据库的基本概念;

二、图数据库的应用案例;

三、图数据库的国产化进程。

直播实录


欢迎来到直播间,大家好。我是微云数聚(北京)科技有限公司的创始人张帜,目前主要做两件事,第一件是敏捷商务智能,目前已经有很多互联网公司用到这个产品;第二件是国产化图数据库,也就是今天晚上要跟大家分享的数据库。华为、联想、中科院、招商银行、电信、移动等都在关注这个产品,有可能成为合作伙伴和潜在的用户。

 

这次分享的主题是大数据时代的新型数据库 — 图数据库Neo4j 的应用,大家一定用过领英 (Linkedin),很可能关心过领英如何处理社交数据的,是用什么技术实现朋友推荐的,大家也可能上过沃尔玛的网络商店,也可能好奇他是如何精准的为你推荐商品的。今天我们就一起揭开他们的神秘面纱。原来他们并没有什么秘密,他们只是用了一个新型的数据库,也就是我们今天要介绍的图数据库Neo4j。


今天分享的内容分三部分:基本概念、应用案例、国产化进程。

国产化进程,主要讲微云数聚在国产化方面所做的努力和工作,给大家做个汇报。

什么是图数据库,从理论依据来看,不是图形、图片的处理,而是基于数学里的图论的理论和算法而实现的高效处理复杂关系网络的新型数据库系统。大家都学过图论,图论里处理的就是点和线的关系,还有最小路径、最短路径、最佳运输路径等等。图数据库就是基于图论而实现的数据库系统,和我们知道的mySQL、Oracle以及Hadoop思路完全不一样。它实际上就是处理关系的、处理网络的数据库系统。


那么我们从另一个角度看,图数据库是善于处理大量的、复杂的、互联的、多变的数据。它处理这些数据的效率,远远高于关系型数据库。

从应用角度来看,图数据库适合于哪些方面呢:例如领英的社交网络、沃尔玛的零售商品实时推荐、征信系统(在中国应用征信系统前景非常好)、人工智能(如阿法狗)。如果使用图数据库来记录数据就会非常简单。在这几个领域有很广泛的应用,当然,不仅仅是这些方面,其他方面也有很多的应用。今天跟大家介绍这些,只是抛砖引玉,大家可举一反三,在自己的行业领域找到广泛应用。

从数据库的结构来看,它包含的概念非常的简单,他包含的概念只有节点和关系。节点可以带标签,节点和关系也都可以带属性。

这里有两个人,一个汽车,共三个节点,每个节点,都打了标签,上面的节点打了“个人”标签,下面节点打了“汽车”标签。

 

每个节点都可以带属性,第一个节点带了姓名、生日和微信三个属性。第二个节点带了姓名和生日两个属性。汽车这个节点,带有品牌和型号两个属性。这里,两个个人节点带的属性是不一样的,这说明同类型的节点不一定要有同样的属性。每一个节点的属性可以根据需要任意设置,可以多可以少,可以有可以无。上面两个节点之间有相爱的关系,爱这个关系是带箭头的,也就是有方向的。下面这个关系“住在一起”也是关系,也是可以带属性的,属性开始日期的值为2011年1月10日。

 

大家看到,图数据库模型的结构非常的简单,就是节点和关系。节点可以带属性、标签,关系也可以带属性。

 

接下来我们看看在Neo4j里怎么创建节点和查询节点的。

大家看到这个CREATE语句就创建了节点和节点之间的关系。创建节点和关系就是这么简单。

MATCH是查询语句,这个查询语句和CREATE的差别只在MATCH和CREATE单词的不同。如果我们把第一个节点中的姓名属性去掉,查询的结果就是所有爱李四的人;把第二个节点的姓名属性去掉,查到的就是所有相爱的人。

 

所以图数据库处理这种关系,语句非常直观和简洁。

那我们来讲一下为什么要使用图数据库。我们已经讲到了,领英和沃尔玛都用到了图数据库,用来处理复杂的关系。那么为什么用图数据库而不是关系数据库来处理这种关系数据呢?

世界本来就是由各种关系组成的。都是节点和节点之间的关系,如图所示,这个图仅仅显示了人和人之间的关系。现实中,不仅仅是人和人,也包括人和物,人和事件等复杂的关系。如果用关系数据库,效率非常低,因为它的表达不直观,计算要用到 join(连接)等复杂的关系,而图数据库是最适合处理这种网状关系的。

这一页是说关系型数据库处理复杂关系的时候,建模难、性能低、查询难、扩展难。导致传统的数据库不能处理实时的数据关系。

现在大家都在说NoSQL,NoSQL也不是为处理关系创建的,也不能处理好关系数据。

而唯独只有图数据库它是专门为处理复杂关系而创建出来的,它具有开发的优势和部署的优势。

我们现在来看关系模型和图的模型,将这两个模型作对比。左边这个关系模型,技术人员能够看得懂,非技术人员就不一定能看得懂了。而右边这个图模型,不仅技术人员,就连非技术人员也很清楚的看懂,因为它非常的直观。

我们经常在白板上画一些模型,用来讨论我们的项目,我们通常是画圈、画线。如果用关系型数据库来处理的话,就要把它映射成表格后再处理。如果用图数据库处理的话,就和白板上的模型没有什么差别,所以说白板模型就是物理模型。现在这个图就是我们的物理模型,在图数据库中,表现现实世界的关系就这么直观。

为什么要使用图数据库,这张图是按照数据库类别的一个发展趋势图,绿线代表的就是图数据,最底下的红线是关系型数据库。这张图从13年到16年,从这个图能看出来,关系数据库已非常成熟,应用也非常饱满,所以发展趋势不再往上升了。相反的,图数据库是崭新的数据库技术,随着互联网的发展,图数据库的应用需求也越来越大,人气指数也越来越高。

Neo4j是图数据库的一种,为什么要选用Neo4j呢?下面我们用图和数据来看看,为什么要用Neo4j。

Neo4j是图数据库的一种,为什么要选用Neo4j呢?下面我们用图和数据来看看,为什么要用Neo4j。

这是图数据库类别里的人气排名。Neo4j相比其他数据库,要遥遥领先。

从趋势图来看,在图数据库的类别里,Neo4j也是遥遥领先。

Neo4j建立了图数据库里最大的生态系统。

这是各种著名媒体报道的截屏。Forester预计2017年,有25%的企业使用图数据库,根据我们推广的结果看,国内很多厂家已经开始在用Neo4j了。所以达到25%比例这个目标会提前实现。

Neo4j的关键产品特征。

社区版不支持集群,免费。企业版支持集群,是收费的。前面有负载均衡,后面有三个Neo4j服务器,其中一个标有五星,表示它是Master,其它的是Slave。如果Master出现故障,会有一台Slave主动变为Master。这是一个很好的负载均衡的机制。

未来如何架构你的应用呢?以前的应用,是在上面这条线,从用户到应用,到数据库。未来我们用上Neo4j,在下方增加支路来访问Neo4j图数据库。

这是一个有趣的图数据库应用。有银行人员向政府举报,在瑞士汇丰银行,可能有潜在的诈骗、贿赂和逃逸事件。政府将收到的一堆文件转给ICIJ(国际记者调查组织)进行分析调查。这些记者是不懂IT的,如何处理这么多数据呢?技术顾问推荐他们使用图数据库Neo4j。他们装了一台Neo4j,然后把数据导进去,直接在Neo4j界面上进行查询,居然查出了成千上万的诈骗、贿赂和逃逸的事件。我举这个例子说明,Neo4j不仅仅是技术人员,也是很多非技术人员可以掌握的工具。


这张图讲演员之间复杂的关系。这张图好看,但不好用,我们要找不同人之间的关系,会非常麻烦,而且不一定能找全。如果我们把它导入到Neo4j里面去,就会变得好用。

这是Neo4j的语法,把演员之间的节点和关系,输入进去。

可以得出这张图,这张图好用了,但不好看。

我们是希望又好用又好看。这张图有图片了。我们的图片也支持gif。是微云数聚把它做的又好用又好看。

这个图是一家集团公司的投资网络和担保网络。图中,中航工业集团在正中心,直接连的是子公司,再往外是孙子公司。圆圈的大小代表了注册资本的大小,红线代表投资关系,其粗细代表投资资本的多少,绿线代表担保关系,其粗细代表担保的多少。

 

这个图里,微云数聚又做了贡献,在原版中,这个图中的节点大小是一致的,而微云数聚可以让这个圆圈的大小由数据驱动,投资资本大,圆圈就大。数据驱动这个功能,是微云数聚为Neo4j在本地化过程中所做的扩展。

 

现在可以针对这个图进行计算。比如计算亏本网络,即将所有净利润小于0的公司组成的网络找出来。


这个是舆情分析的应用,这个语句是查询标题中具有“性福”两个字的邮件的传播路径,红色是发邮件的人,蓝色是接收邮件的人。从这张图可以看出,公安局如果要抓发邮件的人,就直接抓最中心的这个人,他是始作俑者。

这是另一个舆情分析的例子,我们用新浪的数据计算出大V之间的团伙关系。

这是对股票投资的数据查询,我们把两千多只股票,和每只股票前十大股东的情况输入进去了。这个是查询名称中包含五矿的所有股份的投资情况。

还有一个功能,就是数据的钻取,鼠标双点击某个节点,可以展开这个节点的其它关系。


第一个就是沃尔玛,用它来做实时推荐。

左边是实时推荐,右边是以这个人为中心的消费习惯,中间是商品和其他商品之间的内在关系。当这个人点击了中间这个商品,系统就对这两个网络进行计算,计算出这个人可能会对哪些商品感兴趣,并在左边实时显示出来。这是沃尔玛的案例。

思科用它来做组织管理。

这是欺诈检测的应用。四个独立身份的人,每个人都有若干张银行卡,他们用每个卡到银行贷款或者借款4K美金,每个卡的风险不是很大。但是我们通过关系分析,发现上面两个人,经常给同一个电话打电话,左边两个人,经常往同一个地址寄邮件,底下两个人经常给同一个电话打电话,右边两个人,经常往同一个地址寄邮件。这四个人在某种程度上是一个合成身份的人,他们形成了一个诈骗环。如果这四个人,同时来找银行贷款,他们贷款的金额很可能就是72K美金。给银行带来的风险,就是72K的风险。


这是中国在用图数据库的案例,我这里搜集的都是征信系统。他们都用到了图数据库。

这是比较有名的股票系统,万德,也在使用图数据库。大家可以想想,在自己的领域,有哪些方面可以用到图数据库?

微云数聚在Neo4j国产化所做的工作:

第一个,汉化的版本。

第二个,图片化显示。

第三个,数据来驱动,节点和关系的大小、粗细。

第四个,我们扩展了一个智能查询的功能。

第五个,我们实现了一个导入精灵,可以直接把Excel、MySQL、Oracle等数据源的数据导入到Neo4j的数据库中去。



来源:中生代技术

原文链接


相关实践学习
阿里云图数据库GDB入门与应用
图数据库(Graph Database,简称GDB)是一种支持Property Graph图模型、用于处理高度连接数据查询与存储的实时、可靠的在线数据库服务。它支持Apache TinkerPop Gremlin查询语言,可以帮您快速构建基于高度连接的数据集的应用程序。GDB非常适合社交网络、欺诈检测、推荐引擎、实时图谱、网络/IT运营这类高度互连数据集的场景。 GDB由阿里云自主研发,具备如下优势: 标准图查询语言:支持属性图,高度兼容Gremlin图查询语言。 高度优化的自研引擎:高度优化的自研图计算层和存储层,云盘多副本保障数据超高可靠,支持ACID事务。 服务高可用:支持高可用实例,节点故障迅速转移,保障业务连续性。 易运维:提供备份恢复、自动升级、监控告警、故障切换等丰富的运维功能,大幅降低运维成本。 产品主页:https://www.aliyun.com/product/gdb
相关文章
|
4月前
|
存储 人工智能 NoSQL
AI大模型应用实践 八:如何通过RAG数据库实现大模型的私有化定制与优化
RAG技术通过融合外部知识库与大模型,实现知识动态更新与私有化定制,解决大模型知识固化、幻觉及数据安全难题。本文详解RAG原理、数据库选型(向量库、图库、知识图谱、混合架构)及应用场景,助力企业高效构建安全、可解释的智能系统。
|
6月前
|
存储 数据采集 搜索推荐
Java 大视界 -- Java 大数据在智慧文旅旅游景区游客情感分析与服务改进中的应用实践(226)
本篇文章探讨了 Java 大数据在智慧文旅景区中的创新应用,重点分析了如何通过数据采集、情感分析与可视化等技术,挖掘游客情感需求,进而优化景区服务。文章结合实际案例,展示了 Java 在数据处理与智能推荐等方面的强大能力,为文旅行业的智慧化升级提供了可行路径。
Java 大视界 -- Java 大数据在智慧文旅旅游景区游客情感分析与服务改进中的应用实践(226)
|
6月前
|
机器学习/深度学习 数据采集 数据可视化
Java 大视界 -- 基于 Java 的大数据可视化在城市空气质量监测与污染溯源中的应用(216)
本文探讨Java大数据可视化在城市空气质量监测与污染溯源中的创新应用,结合多源数据采集、实时分析与GIS技术,助力环保决策,提升城市空气质量管理水平。
Java 大视界 -- 基于 Java 的大数据可视化在城市空气质量监测与污染溯源中的应用(216)
|
6月前
|
存储 监控 数据可视化
Java 大视界 -- 基于 Java 的大数据可视化在企业生产运营监控与决策支持中的应用(228)
本文探讨了基于 Java 的大数据可视化技术在企业生产运营监控与决策支持中的关键应用。面对数据爆炸、信息孤岛和实时性不足等挑战,Java 通过高效数据采集、清洗与可视化引擎,助力企业构建实时监控与智能决策系统,显著提升运营效率与竞争力。
|
6月前
|
Java 大数据 数据处理
Java 大视界 -- 基于 Java 的大数据实时数据处理在工业互联网设备协同制造中的应用与挑战(222)
本文探讨了基于 Java 的大数据实时数据处理在工业互联网设备协同制造中的应用与挑战。文章分析了传统制造模式的局限性,介绍了工业互联网带来的机遇,并结合实际案例展示了 Java 在多源数据采集、实时处理及设备协同优化中的关键技术应用。同时,也深入讨论了数据安全、技术架构等挑战及应对策略。
|
6月前
|
数据采集 搜索推荐 Java
Java 大视界 -- Java 大数据在智能教育虚拟学习环境构建与用户体验优化中的应用(221)
本文探讨 Java 大数据在智能教育虚拟学习环境中的应用,涵盖多源数据采集、个性化推荐、实时互动优化等核心技术,结合实际案例分析其在提升学习体验与教学质量中的成效,并展望未来发展方向与技术挑战。
|
5月前
|
存储 弹性计算 Cloud Native
云原生数据库的演进与应用实践
随着企业业务扩展,传统数据库难以应对高并发与弹性需求。云原生数据库应运而生,具备计算存储分离、弹性伸缩、高可用等核心特性,广泛应用于电商、金融、物联网等场景。阿里云PolarDB、Lindorm等产品已形成完善生态,助力企业高效处理数据。未来,AI驱动、Serverless与多云兼容将推动其进一步发展。
258 8
|
5月前
|
存储 弹性计算 安全
现有数据库系统中应用加密技术的不同之处
本文介绍了数据库加密技术的种类及其在不同应用场景下的安全防护能力,包括云盘加密、透明数据加密(TDE)和选择列加密。分析了数据库面临的安全威胁,如管理员攻击、网络监听、绕过数据库访问等,并通过能力矩阵对比了各类加密技术的安全防护范围、加密粒度、业务影响及性能损耗。帮助用户根据安全需求、业务改造成本和性能要求,选择合适的加密方案,保障数据存储与传输安全。
|
6月前
|
机器学习/深度学习 人工智能 自然语言处理
Java 大视界 -- Java 大数据机器学习模型在自然语言生成中的可控性研究与应用(229)
本文深入探讨Java大数据与机器学习在自然语言生成(NLG)中的可控性研究,分析当前生成模型面临的“失控”挑战,如数据噪声、标注偏差及黑盒模型信任问题,提出Java技术在数据清洗、异构框架融合与生态工具链中的关键作用。通过条件注入、强化学习与模型融合等策略,实现文本生成的精准控制,并结合网易新闻与蚂蚁集团的实战案例,展示Java在提升生成效率与合规性方面的卓越能力,为金融、法律等强监管领域提供技术参考。
|
6月前
|
存储 人工智能 算法
Java 大视界 -- Java 大数据在智能医疗影像数据压缩与传输优化中的技术应用(227)
本文探讨 Java 大数据在智能医疗影像压缩与传输中的关键技术应用,分析其如何解决医疗影像数据存储、传输与压缩三大难题,并结合实际案例展示技术落地效果。