浅谈公安大数据的建设

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

ZDNet至顶网服务器频道 11月25日 新闻消息:

1公安大数据的建设需求

近年来随着信息化技术的不断发展,现有的公安警务数据中心无论是规模还是架构都很难适应在海量数据场景下的数据管理和分析,直接影响了公安形势预判和重大决策。因此,在现阶段建设新的能够匹配公安业务场景的大数据系统是公安部门的迫切需求。

新建设的公安大数据系统,将成为面向各警种的大数据管理和分析平台,通过对海量数据的收集、整理、归档、分析、预测,从复杂的数据中挖掘出各类数据背后所蕴含的、内在的、必然的因果关系,找到隐秘的规律,促使这些数据从量变到质变,实现对海量数据的深度应用、综合应用和高端应用。通过大数据的建设,使新系统能够向各警种提供集中资源、集中管理、集中监控和配套实施统一的大数据应用环境,保障在今后一个较长时期内很好地担负起对全局各警实战应用的支撑、服务、保障作用。

那么,公安需要一个什么样的大数据系统?

1.PB级数据存储管理:信息化建设在推进,数据规模随之飞速增长,为了满足大规模数据的存储和分析,大数据存储系统应支持单一系统扩展至10PB以上规模,以满足未来数据爆发的存储需要

2.多种数据类型与协议支持:公安数据形式多样,包含文档、图片、视频、栅格、矢量等,因此该系统需要能够支持结构化、半结构化、非结构化多种数据类型,提供NFS/CIFS/JDBC/ODBC等多种接口,以便业务对多种数据进行访问和操作;

3.高质量的数据整合:好的数据质量是数据分析挖掘等有效应用的基本条件,面对公安行业交互复杂而繁多的系统,势必需要将这些多源异构的数据进行抽取、转换及装载,实现数据的整合、消重,提供高质量的数据,在此基础上进行关联、建模,为实战业务提供可用的数据;

4.高效的数据分析能力:百亿条记录的检索、上千张表的碰撞、几百个小时的视频分析、大量的移动互联网和社交媒体数据处理等应用,无不对大数据系统的数据分析能力提出更高的要求;

5.可管理和开放性:可管理、开放化、标准化的大数据技术体系架构,不仅可以为公安带来更高的性价比、更出色的扩展性,更能为警务建设在大数据平台上开展新探索、新应用解除后顾之忧;

6.安全可靠,自主可控:公安系统中很多数据关系着国家安全和人民生命财产安全,因此,要求该系统具备非常高的可靠性,同时,为进一步加强数据安全性,避免数据泄露,最好选用具备完全自主知识产权的国产设备和系统。

2公安大数据的技术选型

大数据的实质是对数据的管理与开发利用,与当前以信息资源开发为核心的公安工作具有广泛的共通性,如何借助大数据技术推动公安工作的发展和变革?技术选型非常重要。在各个企业和组织纷纷助推下,大数据领域的相关技术呈现百花齐放局面,涵盖数据收集、存储、计算、挖掘、资源调度等,下面就以最核心的计算层和存储层两个维度介绍下有关技术路线和发展趋势。

数据处理:

简而言之,不管对何种应用,当数据量很大时就无法在一台服务器上解决计算问题,此时分布式计算优势就体现出来,而Hadoop MapReduce的重要创新便是当处理一个大数据集时会将其任务分解并在运行的多个节点中处理,这种批处理框架常用于离线的复杂的非结构化数据处理,如ETL、数据挖掘等场景;与Hadoop的使用硬盘来存储数据不同,Spark是基于内存的迭代计算框架,适用于需要多次操作特定数据集的应用场合;而Storm则是专门针对实时数据类型的流式计算分析框架,应用在低延迟的场景中,实现海量事件的实时分析、处理和决策。除此之外,为应对不断增长的海量结构化数据的存储和快速处理以及灵活的业务建模需求,数据库系统必将引入分布式架构、MPP处理技术。

数据存储:

上面提到了MapReduce将任务分发到多个服务器上处理大数据的能力。而对于分布式计算,每个服务器必须具备对数据的访问能力,这就是HDFS所起到的作用,HDFS有着高容错性、高吞吐量的特点,适合大数据集的应用。与此同时,业内也有许多其他类型的文件系统推出,不仅能解决了传统存储体系结构存在的难题,又能提高存储利用率和数据读写性能,可以替代HDFS作为Hadoop架构的底层文件系统/数据存储。

不同的技术思路各有偏重,由于公安业务种类繁多,大数据应用场景多样化,除了建立各类基础大数据资源库之外,还需要做到事前预测警务研判、事中实时情报分析及事后案事件分析,及可视化查询统计等,建议公安用户基于智能融合的大数据架构构建上层应用,积极引入大数据领域的先进技术,推动公安工作迈入大数据发展阶段。

3华为大数据解决方案服务公安

华为汇集国内外的大数据专家,构建世界级的大数据团队,全面覆盖大数据领域关键技术,推出了智能融合的大数据解决方案,已在全球电信市场、国内金融行业和政府涉密部门等拥有大量实践及成功案例,例如招商银行、建设银行、工商银行、上海联通和江苏移动等,并与多地公安机关和公安行业应用厂家展开紧密合作,致力于为公安用户打造服务于实战应用的大数据方案。

浅谈公安大数据的建设

华为大数据方案融合了基础设施层面的OceanStor 9000大数据存储,RH2288通用X86服务器,和数据管理分析层面的FusionInsight企业级Hadoop,该方案在公安领域的价值体现包括:

建立融合海量异构多源数据的公安信息资源库,将更大规模、更多类型的数据纳入大数据平台,拓宽公安的数据掌控面;

实现更快更准的智能搜索、关联查询和碰撞比对,提高研判分析效率;

融合多种分布式计算框架,处理更复杂的分析模型和预测模型,提升案件侦破能力;

保持大数据平台100%的开放性,支持被集成,更稳健地搭载公安业务;

华为公司战略投入,强大的研发团队长期从事大数据领域发展的研究,能助力公安的大数据实践和探索。

原文发布时间为:2014年11月25日
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
分布式计算 算法 大数据
|
机器学习/深度学习 存储 人工智能
后疫情时代的城市医疗大数据,需要怎样的建设“方法论”?
找准自身定位,医疗大数据产业的上下游企业将大有可为。城市级健康医疗大数据体系建设,是一个很宏大的命题。
|
人工智能 大数据