干货 | 下一代数据网:数据驱动的云网链一体化

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

本讲座选自清华-青岛数据科学研究院大数据基础设施研究中心特聘研究员刘运渠9月5日在Odaily星球日报 X 36Kr P.O.D大会上所做的题为《下一代数据网:数据驱动的云网链一体化》的演讲。

以下是演讲图文实录

80dae957258d7ae0390329c3a49fc5b87d5163a9

刘运渠:数据驱动的云网链一体化,它潜在的商业场景,是把它作为一个基础设来提供。清华-青岛数据科学研究院是一个多学科的交叉融合,与数据确权和安全多方计算的核心技术,来建立的数据分享平台。它的目标是实现一个大数据自来水管道,做到一些资产服务和创新技术,最重要的目标是实现数据驱动

09a31fea41806eccf65d64194dd0b7cf2c22b7a6

现有的三大核心技术云、网、链各自有一些缺点。数据协议方面,有数据孤岛的问题,成本和灵活性的问题及数据确权和效率的问题,这是清华大学下一代数据网络试图解决的问题,最主要的方法是通过区块链技术的研究和产业化方面来做一些动作。

16b7b3320e1e0ed5ff57fd601e19be48347461b1

刚刚讲了一些机构性的介绍,下面会深入到技术和产业细节里面去。

什么是这三大块融为一体化,这是一个很大的野心

我们能不能占一个万米的高空,看这三大技术的关系呢?我们看到机器学习的AI,它得益于大数据,同时它又为大数据提供了一个得力的工具。云计算,跟边缘计算、雾计算一起,在不同的场景,有不同的需求。对于云计算来讲,大的数据在需要计算力方面有一个弹性。当我需要算力的时候,我希望无穷大;当我不需要算力的时候,手机的CPU是闲着的,所以这是计算力共享的问题。

基础设施试图转向以数据为中心的场景,大家已经比较熟悉一些CDN、NDN、ICN、DCN,本质是把网络从比特流转向数据。我们认为未来的价值焦点,也就是从大数据视角来看,它不仅仅是数据隐私的问题,首先是数据的所有权。数据的隐私,首先数据是我的,你凭什么拿去用,拿去用有没有好处,这个好处是不是我应该得到。这才是我们认为下一阶段大数据的核心问题

83e88a046f8b318910ab1180aeaf691cf42a96b9

从刚刚讲的大数据和网络视角下,我们再看区块链是什么情况。

 ●  首先,我们认为 区块链技术可能具有实现数据确权的潜力 。这里引用一下谷歌董事长斯密特的说法,他认为区块链技术最大的价值,就是实现的 数据的稀缺性 ,也就是不可以篡改和随便拷贝。为什么稀缺性很重要?因为他是董事长,他关心经济问题,没有稀缺性就没有经济价值。
 ●  第二,我们认为 区块链技术跟大数据的结合,可能会出现万亿级的商业。
 ●  第三, 区块链技术尚未具有支撑大数据的能力,这是我们下一代数据网要解决的核心难题。

 ●  第四,区块链对于网络本身也提出了巨大挑战。区块链在技术上有三大块,一个是分布式共识,一个是加密,一个是基于P2P的广播。P2P的广播是广播的一种,是基于点对点实现的。广播对于网络来讲是很可怕的东西,因为N到N远远大于1到1的量。如果有一个网络可以支撑完美的通信的话,它需要什么呢?它需要网络的有效载荷即有效排列组合可以达到N的N次方,而普通网络只有达到N的阶层数字,这两个数字差距非常的大。我们认为网络是区块链规模应用的瓶颈之一,一方面它的商业价值备受关注,另一方面它的规模和实验,成为关注的焦点。

fb777fce6c5427cd4098cd353ac73e8cd10e48a2

今天有很多嘉宾在规模方面讲得比较多,我集中精力讲一下时延的问题。

第一,关系型数据库系统是非常强悍的,它可以轻松达到千万次的TPS。现有的系统,不要上千万次,几千次都不是那么容易的事。成熟的系统需求也没有那么高,日常也就是2000次。没有必要在这块做无谓的追求,这方面我们赶不过关系型数据库。

第二,交易的时延和带宽是不一样的东西。比如我烤匹萨10个小时,同时烤了10块匹萨,我回头跟人说,10个小时烤了10个披萨,平均时间1小时。这里面是有误导的。时延就是说,到底烤一块匹萨多久,这对于实际应用很有价值。我们来看看它受到什么限制呢?一些是我们看得见的,就是代码里面可以看到,就是显示限制,比如交易尺寸、快、平均大小。当像中本聪这样世界级的设计者,他们设计的时候,是考虑后面的限制。算法现在的研究可以达到100毫秒以下,我们网络也做到100毫秒以下,1+1等于200毫秒,再给以3倍的安全系数,目标可以到600毫秒。由于广播的模型,会导致它的规模也不会很大,所以要解决这个问题,可能要通过一些分集,用联盟链的方法来处理。

16d8fffc056866caa83d8a37fbc5a36129c1d488

下一代的数据网络,它可以支持高速、海量区块链吞吐。首先在广域里面部署一个服务,同时能够支持毫秒级、亚秒级的交易,能够实现规模化的区块链应用。为什么呢?因为我们在广播里面增加广播代理,不要每个人都去广播,这就是联盟链的观点。

f6b47d052394b2fd4a82831b50f0b15a38b19363

这一块清华大学希望我们能够提供一些区块链设施、平台以及应用作为服务。而且区块链在阿尔山的基础区块链项目里面已经做了这样的场景。这是清华区块链现有的下一代数据网的设计方案及想要实现的目标。

2eb8a2f4367355274a60bae9427aea24a5259d65


原文发布时间为:2018-09-12
本文作者:刘运渠
本文来自云栖社区合作伙伴“ 数据派THU”,了解相关信息可以关注“ 数据派THU”。
相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
2月前
|
人工智能 自然语言处理 测试技术
有没有可能不微调也能让大模型准确完成指定任务?(少样本学习)
对于我这种正在从0到1构建AI产品的一人公司来说,Few Shots学习的最大价值在于:用最少的资源获得最大的效果。我不需要大量的标注数据,不需要复杂的模型训练,只需要精心设计几个示例,就能让大模型快速理解我的业务场景。
248 43
|
编解码 定位技术
谷歌地图分辨率表
版权声明:欢迎评论和转载,转载请注明来源。 https://blog.csdn.net/zy332719794/article/details/73949818 ...
2620 0
|
25天前
|
自然语言处理 NoSQL 数据挖掘
从“找文件半小时”到“答案秒出现”:Dify工作流如何重塑我们团队的协作效率
告别文件混乱!通过Dify智能工作流,实现文档自动分类、版本控制、跨平台同步与权限管理,彻底解决团队“找文件难、版本错乱、协作低效”痛点。助力企业从“文件传输员”转型为高效协作者,提升协作效率85%,错误率下降95%。
|
人工智能 安全 物联网
智能家居的未来:物联网与AI的完美融合
本文深入探讨了物联网(IoT)和人工智能(AI)在智能家居领域的应用,并预测了未来技术的发展趋势。通过分析当前技术实现、面临的挑战以及潜在的解决方案,文章旨在为读者揭示一个更加智能、互联的家居生活蓝图。
413 32
|
存储 数据采集 监控
Telegraf 使用小结
Telegraf 使用小结
303 1
|
网络协议 Java 网络安全
详解电子邮件的POP3协议及最小化实现
详解电子邮件的POP3协议及最小化实现
278 5
|
运维 监控 安全
中间件应用管理
有效管理中间件应用涉及需求分析、选型集成、配置管理、部署监控、安全管理、性能优化、容量规划、版本管理、文档支持和持续改进。关注稳定性、安全、性能和可扩展性,通过监控预警、安全加固、性能调优等手段确保应用顺畅运行,并根据业务变化持续优化。
288 6
|
传感器 边缘计算 监控
|
Linux PHP 开发工具
Linux查找含有某字符串文件并批量替换
Linux查找含有某字符串文件并批量替换
246 0