浅谈公安大数据的建设

简介:

ZDNet至顶网服务器频道 11月25日 新闻消息:

1公安大数据的建设需求

近年来随着信息化技术的不断发展,现有的公安警务数据中心无论是规模还是架构都很难适应在海量数据场景下的数据管理和分析,直接影响了公安形势预判和重大决策。因此,在现阶段建设新的能够匹配公安业务场景的大数据系统是公安部门的迫切需求。

新建设的公安大数据系统,将成为面向各警种的大数据管理和分析平台,通过对海量数据的收集、整理、归档、分析、预测,从复杂的数据中挖掘出各类数据背后所蕴含的、内在的、必然的因果关系,找到隐秘的规律,促使这些数据从量变到质变,实现对海量数据的深度应用、综合应用和高端应用。通过大数据的建设,使新系统能够向各警种提供集中资源、集中管理、集中监控和配套实施统一的大数据应用环境,保障在今后一个较长时期内很好地担负起对全局各警实战应用的支撑、服务、保障作用。

那么,公安需要一个什么样的大数据系统?

1.PB级数据存储管理:信息化建设在推进,数据规模随之飞速增长,为了满足大规模数据的存储和分析,大数据存储系统应支持单一系统扩展至10PB以上规模,以满足未来数据爆发的存储需要

2.多种数据类型与协议支持:公安数据形式多样,包含文档、图片、视频、栅格、矢量等,因此该系统需要能够支持结构化、半结构化、非结构化多种数据类型,提供NFS/CIFS/JDBC/ODBC等多种接口,以便业务对多种数据进行访问和操作;

3.高质量的数据整合:好的数据质量是数据分析挖掘等有效应用的基本条件,面对公安行业交互复杂而繁多的系统,势必需要将这些多源异构的数据进行抽取、转换及装载,实现数据的整合、消重,提供高质量的数据,在此基础上进行关联、建模,为实战业务提供可用的数据;

4.高效的数据分析能力:百亿条记录的检索、上千张表的碰撞、几百个小时的视频分析、大量的移动互联网和社交媒体数据处理等应用,无不对大数据系统的数据分析能力提出更高的要求;

5.可管理和开放性:可管理、开放化、标准化的大数据技术体系架构,不仅可以为公安带来更高的性价比、更出色的扩展性,更能为警务建设在大数据平台上开展新探索、新应用解除后顾之忧;

6.安全可靠,自主可控:公安系统中很多数据关系着国家安全和人民生命财产安全,因此,要求该系统具备非常高的可靠性,同时,为进一步加强数据安全性,避免数据泄露,最好选用具备完全自主知识产权的国产设备和系统。

2公安大数据的技术选型

大数据的实质是对数据的管理与开发利用,与当前以信息资源开发为核心的公安工作具有广泛的共通性,如何借助大数据技术推动公安工作的发展和变革?技术选型非常重要。在各个企业和组织纷纷助推下,大数据领域的相关技术呈现百花齐放局面,涵盖数据收集、存储、计算、挖掘、资源调度等,下面就以最核心的计算层和存储层两个维度介绍下有关技术路线和发展趋势。

数据处理:

简而言之,不管对何种应用,当数据量很大时就无法在一台服务器上解决计算问题,此时分布式计算优势就体现出来,而Hadoop MapReduce的重要创新便是当处理一个大数据集时会将其任务分解并在运行的多个节点中处理,这种批处理框架常用于离线的复杂的非结构化数据处理,如ETL、数据挖掘等场景;与Hadoop的使用硬盘来存储数据不同,Spark是基于内存的迭代计算框架,适用于需要多次操作特定数据集的应用场合;而Storm则是专门针对实时数据类型的流式计算分析框架,应用在低延迟的场景中,实现海量事件的实时分析、处理和决策。除此之外,为应对不断增长的海量结构化数据的存储和快速处理以及灵活的业务建模需求,数据库系统必将引入分布式架构、MPP处理技术。

数据存储:

上面提到了MapReduce将任务分发到多个服务器上处理大数据的能力。而对于分布式计算,每个服务器必须具备对数据的访问能力,这就是HDFS所起到的作用,HDFS有着高容错性、高吞吐量的特点,适合大数据集的应用。与此同时,业内也有许多其他类型的文件系统推出,不仅能解决了传统存储体系结构存在的难题,又能提高存储利用率和数据读写性能,可以替代HDFS作为Hadoop架构的底层文件系统/数据存储。

不同的技术思路各有偏重,由于公安业务种类繁多,大数据应用场景多样化,除了建立各类基础大数据资源库之外,还需要做到事前预测警务研判、事中实时情报分析及事后案事件分析,及可视化查询统计等,建议公安用户基于智能融合的大数据架构构建上层应用,积极引入大数据领域的先进技术,推动公安工作迈入大数据发展阶段。

3华为大数据解决方案服务公安

华为汇集国内外的大数据专家,构建世界级的大数据团队,全面覆盖大数据领域关键技术,推出了智能融合的大数据解决方案,已在全球电信市场、国内金融行业和政府涉密部门等拥有大量实践及成功案例,例如招商银行、建设银行、工商银行、上海联通和江苏移动等,并与多地公安机关和公安行业应用厂家展开紧密合作,致力于为公安用户打造服务于实战应用的大数据方案。

浅谈公安大数据的建设

华为大数据方案融合了基础设施层面的OceanStor 9000大数据存储,RH2288通用X86服务器,和数据管理分析层面的FusionInsight企业级Hadoop,该方案在公安领域的价值体现包括:

建立融合海量异构多源数据的公安信息资源库,将更大规模、更多类型的数据纳入大数据平台,拓宽公安的数据掌控面;

实现更快更准的智能搜索、关联查询和碰撞比对,提高研判分析效率;

融合多种分布式计算框架,处理更复杂的分析模型和预测模型,提升案件侦破能力;

保持大数据平台100%的开放性,支持被集成,更稳健地搭载公安业务;

华为公司战略投入,强大的研发团队长期从事大数据领域发展的研究,能助力公安的大数据实践和探索。

原文发布时间为:2014年11月25日
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。
相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
10天前
|
JSON 监控 API
闲鱼商品详情API接口文档
本接口用于获取闲鱼商品详情,包括标题、价格、库存、卖家信息、图片链接、交易记录等核心数据,返回JSON格式,适用于商品监控、竞品分析等合规场景。需通过模拟请求或授权方式调用,注意反爬机制。
|
机器学习/深度学习 文字识别 自然语言处理
文档图像处理:大模型的突破与新探索
丁凯博士分享了当前文档图像处理面临的困难,并讨论大模型在该领域的突破和新探索。
1580 5
|
JavaScript Java 测试技术
基于微信小程序的刷题系统的设计与实现(源码+lw+部署文档+讲解等)
基于微信小程序的刷题系统的设计与实现(源码+lw+部署文档+讲解等)
361 0
|
算法 数据挖掘 Shell
「毅硕|生信教程」 micromamba:mamba的C++实现,超越conda
还在为生信软件的安装配置而烦恼?micromamba(micromamba是mamba包管理器的小型版本,采用C++实现,具有mamba的核心功能,且体积更小,可以脱离conda独立运行,更易于部署)帮你解决!
618 1
|
JavaScript C++ Windows
VS code运行vue项目
VS code运行vue项目
1286 0
|
存储 缓存 JavaScript
JS:什么是时间戳?
JS:什么是时间戳?
616 2
|
人工智能 搜索推荐 vr&ar
安卓系统的发展历程与未来趋势
【2月更文挑战第10天】 安卓系统作为全球手机操作系统市场的领导者,其发展历程和未来趋势备受关注。本文将从安卓系统的起源、发展历程、技术特点以及未来发展趋势等方面进行探讨,分析安卓系统在移动设备领域的影响力以及未来可能的发展方向。
|
应用服务中间件 网络安全 nginx
处理 WebSocket 连接失败的最佳实践
WebSocket 目前已经成为了一项极为重要的技术,其允许客户端和服务器之间进行实时、全双工的通信。然而,在实际项目中,开发者时常会遇到 WebSocket 连接失败的情况。这不仅影响了用户体验,还可能导致不可预见的系统错误或数据丢失。那么,造成 WebSocket 连接失败的原因有哪些?又该如何解决这些问题呢?本文将逐一分析常见的 WebSocket 连接失败原因,并提供详细的解决方案。
|
数据可视化
【Eviews实战】——多元线性回归模型的建立(一)
【Eviews实战】——多元线性回归模型的建立(一)
|
前端开发 Linux UED
Wagtail-基于Python Django的内容管理系统CMS如何实现公网访问
Wagtail-基于Python Django的内容管理系统CMS如何实现公网访问
288 0