智慧城市中的大数据挖掘与应用

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介:

数字城市技术把基础地理数据、正射影像、街景景象数据、全景影像数据、三维模型数据结合在一起,在政务网上,通过注册可以进行服务共享,在公共平台、互联网、公网上,通过二次开发可以提供各种交通、导航、旅游、文物、购物等服务系统。物联网能够实现人与人、人与机器、机器与机器的互联互通,实现智慧城市的各种应用。

  智慧城市蕴含大数据

城市是生存繁衍最好的地方,城市是社会交往的地方,是文化享受的地方,按照城市的职能,我们让它智能化,比如智慧安防、智慧环保、智慧能源、智慧城管、智慧养老、智慧国土规划、智慧社区、智慧家居都是让人有更好的环境来生存繁衍。在经济发展方面,可以推动智慧制造、工业互联网、物联网。在文化享受方面,可以考虑智慧户外流媒体、智慧教育、智慧旅游等等。在社会交往方面,有智慧交通、购物、社会综合管理。

在智慧城市的建设和应用中,将产生从TB到PB级越来越多的数据,从而进入大数据时代。2011年,Science专刊指出大数据时代已经到来,美国工程院院士也指出大数据可以让我们实现海量数据在预测、建模、可视化和发现新规律等方面应用的时代就要到来,奥巴马总统宣布美国政府正式启动大数据研究发展计划,奥巴马认为大数据就是未来世界的“石油”,这个计划要超过以前提出的“信息高速公路计划”,智慧城市建设的潮流已经到来。

空间数据方面,空间的传感器资源,美国有185颗卫星,中国有91颗卫星,到2020年中国将有200多颗卫星,卫星每天往回传输的数据可以达到PB级,空间数据资源、处理资源、空间信息资源、地学知识库资源,这些资源都可以传到网上,通过可视化的服务,利用云计算环境,包括计算资源、网络资源和存储资源,来保证服务质量。

“天地图”挖掘海量数据

为了充分研究这些海量空间大数据,我们研发了一个软件,叫做“天地图”,“天地图”的数据已经超过了TB级,目前已经超过100TB。利用“4+1”倾斜相机城市三维模型,贵阳做了很多三维建模工作。通过大数据,我们可以监测上海的地表下沉问题,把雷达数据放在一起,进行数据分析和挖掘,自动地、随时地检测地表下沉,不同地区的下沉速度不同,上海大概每年下沉20毫米,远郊区和市中心都在下沉。我们的检测结果同上海市国土局对比,精度可以达到3.9毫米和2.5毫米。我们已经对上海、苏州、天津、广州等很多大城市进行了自动检测。我们还监测了三峡,将来还要监测高铁。

我国已建成世界最大的视频监控网,2005年平安城市计划启动,现在我们已经在全国600个城市安装了超过2000万个摄像头,投资超过3000多亿,摄像头的工作可以帮助我们保证城市的平安、交通的通畅,但是出现了大数据的问题,就是存不起,数据量太大导致无法存储。我们为天津做了一个规划,“十二五”末,天津将安装60万个摄像头,按照公安部的要求,数据要保留3个月,有4600多个PB,1PB等于1000TB,比我们的空间数据还要大,如果这样存下去,一年要花580多亿,相当于去年西藏的GDP。同时,数据也查不准,发现问题以后,用人工去查,查不准,不可能用几十万个人去查数据,超过了人工处理的极限。此外,也防不住,案件破案效率、破案速度、破案质量不高,这是我们面临的一个严峻的问题。

智慧交通方面,中国有13亿人,数据量到了PB级,24小时都有流量,我们要把这些数据保存起来。安防方面,我们要“365天×24小时”管好城市的安防,数据量也很大。智慧养老方面,现在中国超过65岁的老人已经达到2亿到2.5亿,一个人从65岁活到90岁、100岁,如果把变化状态记录下来,可以使老人得到及时的救护和帮助。

目前,大数据依靠云计算和数据挖掘。科学的发展经过了四个时代,最早靠经验,后来靠理论,现在我们进入了数字发现知识的时代,云计算就应运而生,把计算能力、存储能力、交互能力放在云端,这种服务叫云计算服务,出现了基于云计算的信息服务,今天走到了虚拟服务云计算的时代,云计算中心内部的生态链,在一个网络上,除了自身的计算资源之外,我们有一些商人做云服务器、集成服务等,这些人构成了一个链条,这个链条无所不在,为大家服务。

我们现在做了一个遥感云,把海量的遥感数据,复杂的遥感处理与分析方法放在远程的云计算平台上,利用云计算平台弹性的计算能力,用户无需买数据、不需搭建环境,也不需要买软件,只需要选择数据和算法后即可获得计算结果,我们的服务不再是提供一个地铁、提供一个文件拷贝和数据共享,而是基于云计算的注册服务。

遥感云叫做OpenRS-Cloud,开放的遥感云是不收钱的,可以检查任务进来的速度,可以看计算机结果,把数据输入进去,可以直接在浏览器上察看到结果,用户使用非常方便。大家体会一下遥感云服务实例,云系统可以搜索下雨之前的卫星影像,还可以搜索下雨之后的卫星影像,有了这些影像以后自动生成了服务链条,可以得到遥感服务的结果。

云计算与数据挖掘

位置云可以将手机的导航卫星信号与其他定位相关的传感器信息传输到云计算中心,通过实时解算,实现室内外高精度的手机连续位置定位和实时导航。

地理国情检测需要,灾情报告员需要,土地调查员和城管员都需要,这样的系统可以把外面的卫星定位方法、室内的传感器定位方法、无线信号定位方法揉在一起,叫做混合定位。北斗正在做服务云,中国北斗从2012年已经开始全面运营,有120字短报文特性,我们做了增强系统,按照220公里的距离,可以保证导航精度一秒钟十个精度,在60公里以内,可以实现区域三频厘米级精密定位。如果用GPS,信号完好率达44%,初始化时间只有40多秒。

我们推荐的是GPS双频加北斗三频,可以保证平面精度1厘米、高程精度3.6厘米,提高了30%,完好率达100%,初始化时间只有6秒。

现在运营商做这个软件,精密定位可能收1毛或者2毛,高精度导航性能分析,可用于智慧交通中的车辆控制和智能驾驶,物质的运送只能在慢车道,原来控制不住,有了米级精度便可以控制,如果犯规了,指挥中心可以实时了解。

数据挖掘方面,我们现实世界的数据不是我们需要的,我们需要的是信息,最后要的是知识,我们要从海量数据中挖掘、发现我们所需的知识。

视频数据挖掘,要把安全行为进行智能分析,视频数据自动理解,从而实现视频数据自动压缩,把PB数据压缩下来,要推行智能设备就要解决一些问题,例如人体异常行为检测,异常事件检测,这是公安部门最感兴趣的。如果计算机能做,可以对目标进行跟踪,这就是我们需要的,自动地对物体中的运动目标进行检测、分离、跟踪,对其行为进行有效识别,如果有了这个软件,视频数据就能充分利用,正常人的活动可以删去,只把可疑的数据留下来。

智慧城市是基于数字城市、物联网和云计算建立的现实世界与数字世界的融合,以实现对人和物的感知、控制和智能服务。感知是数字城市的功能,控制和智能服务是智慧的高级阶段,智慧城市对经济转型发展、城市职能管理和对大众的智慧服务具有广阔的前景,使得人与自然更加协调。

做这件事情并不容易,首先要让大家把网络基础设施建设好,让大家用的好、用的起,如果大家用不好、用不起,智慧化就等于零。专家和企业应该抓好技术创新和攻关研究,拉动智慧城市引起的数字服务产业的发展,更好地实现各种智能化的应用。

智慧城市建设是一把手工程,城市一把手要根据每个城市的特点做好顶层设计,统一规划,分步实施。

本文转自d1net(转载)

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
SQL 存储 分布式计算
ODPS技术架构深度剖析与实战指南——从零开始掌握阿里巴巴大数据处理平台的核心要义与应用技巧
【10月更文挑战第9天】ODPS是阿里巴巴推出的大数据处理平台,支持海量数据的存储与计算,适用于数据仓库、数据挖掘等场景。其核心组件涵盖数据存储、计算引擎、任务调度、资源管理和用户界面,确保数据处理的稳定、安全与高效。通过创建项目、上传数据、编写SQL或MapReduce程序,用户可轻松完成复杂的数据处理任务。示例展示了如何使用ODPS SQL查询每个用户的最早登录时间。
92 1
|
18天前
|
安全 搜索推荐 大数据
大数据与智慧城市:数据驱动的城市管理
【10月更文挑战第31天】在信息技术飞速发展的今天,大数据成为推动智慧城市转型的核心驱动力。本文探讨了大数据在智慧交通、环保、安防、医疗和政务等领域的应用,揭示了数据驱动的城市管理带来的深刻变革,同时分析了面临的数据安全、隐私保护和数据孤岛等挑战,并展望了大数据在智慧城市建设中的未来前景。
|
1月前
|
存储 分布式计算 druid
大数据-149 Apache Druid 基本介绍 技术特点 应用场景
大数据-149 Apache Druid 基本介绍 技术特点 应用场景
57 1
大数据-149 Apache Druid 基本介绍 技术特点 应用场景
ly~
|
1月前
|
供应链 搜索推荐 安全
大数据模型的应用
大数据模型在多个领域均有广泛应用。在金融领域,它可用于风险评估与预测、智能营销及反欺诈检测,助力金融机构做出更加精准的决策;在医疗领域,大数据模型能够协助疾病诊断与预测、优化医疗资源管理和加速药物研发;在交通领域,该技术有助于交通流量预测、智能交通管理和物流管理,从而提升整体交通效率;电商领域则借助大数据模型实现商品推荐、库存管理和价格优化,增强用户体验与企业效益;此外,在能源和制造业中,大数据模型的应用范围涵盖从需求预测到设备故障预测等多个方面,全面推动了行业的智能化转型与升级。
ly~
91 2
ly~
|
1月前
|
供应链 搜索推荐 大数据
大数据在零售业中的应用
在零售业中,大数据通过分析顾客的购买记录、在线浏览习惯等数据,帮助零售商理解顾客行为并提供个性化服务。例如,分析网站点击路径以了解顾客兴趣,并利用历史购买数据开发智能推荐系统,提升销售和顾客满意度。此外,大数据还能优化库存管理,通过分析销售数据和市场需求,更准确地预测需求,减少库存积压和缺货现象,提高资金流动性。
ly~
289 2
ly~
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
大数据在智慧金融中的应用
在智能算法交易中,深度学习揭示价格波动的复杂动力学,强化学习依据市场反馈优化策略,助力投资者获取阿尔法收益。智能监管合规利用自然语言处理精准解读法规,实时追踪监管变化,确保机构紧跟政策。大数据分析监控交易,预警潜在违规行为,变被动防御为主动预防。数智化营销通过多维度数据分析,构建细致客户画像,提供个性化产品推荐。智慧客服借助 AI 技术提升服务质量,增强客户满意度。
ly~
110 2
ly~
|
1月前
|
供应链 监控 搜索推荐
大数据的应用场景
大数据在众多行业中的应用场景广泛,涵盖金融、零售、医疗保健、交通物流、制造、能源、政府公共服务及教育等领域。在金融行业,大数据用于风险评估、精准营销、反欺诈以及决策支持;零售业则应用于商品推荐、供应链管理和门店运营优化等;医疗保健领域利用大数据进行疾病预测、辅助诊断和医疗质量评估;交通物流业通过大数据优化物流配送、交通管理和运输安全;制造业则在生产过程优化、设备维护和供应链协同方面受益;能源行业运用大数据提升智能电网管理和能源勘探效率;政府和公共服务部门借助大数据改善城市管理、政务服务及公共安全;教育行业通过大数据实现个性化学习和资源优化配置;体育娱乐业则利用大数据提升赛事分析和娱乐制作水平。
ly~
375 2
|
1月前
|
存储 机器学习/深度学习 分布式计算
大数据技术——解锁数据的力量,引领未来趋势
【10月更文挑战第5天】大数据技术——解锁数据的力量,引领未来趋势
|
6天前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
51 7
|
6天前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
16 2