这才是真正的物流大数据挖掘思路!

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

物流大数据,都是哪些数据?

物流大数据主要包括运单信息的数据和车辆信息的数据,然而关于运单信息往往涉及商业机密,并且信息分布于不同行业企业内部,不宜公开。因此当前现实的数据条件来看,实业界和学术界的物流大数据主要是关于货运车辆信息的数据。其中包括:车辆id信息,驾驶员信息,车辆行驶轨迹坐标信息,车辆停车信息,车辆速度信息,车辆里程信息,车辆温度信息,车辆油耗信息,车辆其他状态信息等。轨迹数据挖掘来源通常是终端设备上产生的位置记录,然后位置信息传回数据中心以日志文件形式存放,如下表:

通过定位技术采集到的原始轨迹数据只是一系列的经纬度、时间、速度等信息,通过这些信息无法直接得到物流货运车的活动行为的特征信息,例如运送货物的起始点、途经哪些城市信息,以及更深层次的活动规律等。这些原始的北斗/GPS 数据必须经过一系列的处理步骤,才能获取到物流货运车的送货规律等特征信息。

这些数据都有哪些特点?

想要从海量数据中分析获取到有价值的知识信息,首先要了解物流货运车辆轨迹数据的特征。

数据海量性:物流车辆一般以10秒到30秒的间隔向数据中心发送当前位置信息,这些移动在全国各地路网中的物流车辆每天生成的北斗/GPS 数据都达到了GB甚至TB规模,并且还在不断增长中。这既是发展数据挖掘的驱动力,同时也是数据挖掘面临的难题。

数据稀疏性:虽然轨迹数据规模庞大,但由于地理因素、天气因素、设备故障等原因,并不能保证每一个路段都有完整的北斗、GPS信息,甚至有些错误的北斗/GPS数据。

数据复杂性:物流车辆在实际行驶过程中受各方面主客观因素影响,难以简单通过某个模型或者理论来进行评估和预测。其中包括,每个司机都有自己的驾驶习惯,即使同一个司机在驾驶过程中也会针对不同客观条件改变自己的驾驶行为,这些人为的改变无疑增加了轨迹数据挖掘的不确定性和复杂性。

数据丰富性:在海量的轨迹数据背后隐藏着全国实时路况信息、物流运输状态信息和我国不同区域经济发展水平以及供需关系的变化。对于我国道路基础建设、交通路径规划、物流车辆调度、经济指标预测等方面有着积极意义。

准备如何挖掘这些数据?

轨迹数据挖掘,是指从大量轨迹数据的集合 C 中发现隐含模式m 和知识 n 的结果 S。因此,轨迹数据挖掘的过程可以看作为一个函数:£ : C→S(m, n),输入是轨迹数据,输出是隐含模式 m 和知识 n。通过使用某些技术、理论,从大量的轨迹数据提取模式、发现庞大知识的一个过程。

轨迹数据挖掘发现的知识类型和所使用的方法密切相关,所发现的知识的价值受到数据挖掘算法的影响,目前常用的轨迹数据挖掘技术有规则归纳、概念簇集、关联发现等。目前的轨迹数据挖掘研究工作中主要为轨迹聚类、轨迹分类、离群点检测、兴趣区域、隐私保护、位置推荐等方面。

物流数据挖掘做什么用?

物流车辆的海量大数据中包含着许多关于交通路况、车辆运行甚至社会经济发展动态的信息。通过统计分析车辆行驶距离、停车时间、地理位置、车辆特征等多个维度的信息可以发现货运车辆的行为特征、区域物流的流量分布等,为物流公司提供基于时间、成本、路线等车辆调度的应用服务提供了可靠的理论依据和技术支持,同时也可以为政府提供物流运价指数、货运效率指数等优先经济指标。


本文作者:佚名

来源:51CTO

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
4月前
|
数据采集 数据可视化 算法
电商API接口的大数据分析与挖掘技巧
随着电商行业的快速发展,电商平台上的交易数据量也越来越大。如何对这些数据进行分析和挖掘,从中获取有价值的信息,已经成为电商企业和开发者关注的重点。本文将介绍电商API接口的大数据分析与挖掘技巧。
|
网络协议 大数据 数据挖掘
文献丨多组学大数据构建小麦穗发育转录调控网络,TRN+GWAS挖掘关键转录调控(二)
文献丨多组学大数据构建小麦穗发育转录调控网络,TRN+GWAS挖掘关键转录调控(二)
|
2月前
|
存储 监控 数据挖掘
云上大数据分析平台:赋能企业决策,挖掘数据金矿
5.3 场景化 针对不同行业和领域的需求特点,云上大数据分析平台将推出更多场景化的解决方案。这些解决方案将结合行业特点和业务场景进行
58 7
|
1月前
|
SQL 开发框架 大数据
【数据挖掘】顺丰科技2022年秋招大数据挖掘与分析工程师笔试题
顺丰科技2022年秋招大数据挖掘与分析工程师笔试题解析,涵盖了多领域选择题和编程题,包括动态规划、数据库封锁协议、概率论、SQL、排序算法等知识点。
49 0
|
4月前
|
存储 分布式计算 算法
大数据处理:挖掘价值之道
大数据处理:挖掘价值之道
|
4月前
|
机器学习/深度学习 算法 数据挖掘
【大数据分析与挖掘技术】概述
【大数据分析与挖掘技术】概述
69 1
|
4月前
|
存储 算法 搜索推荐
【大数据分析与挖掘技术】Mahout推荐算法
【大数据分析与挖掘技术】Mahout推荐算法
52 0
|
数据可视化 大数据 数据挖掘
文献丨多组学大数据构建小麦穗发育转录调控网络,TRN+GWAS挖掘关键转录调控(三)
文献丨多组学大数据构建小麦穗发育转录调控网络,TRN+GWAS挖掘关键转录调控(三)
|
大数据 数据挖掘 Go
文献丨多组学大数据构建小麦穗发育转录调控网络,TRN+GWAS挖掘关键转录调控(一)
文献丨多组学大数据构建小麦穗发育转录调控网络,TRN+GWAS挖掘关键转录调控
|
4月前
|
存储 数据采集 机器学习/深度学习
大数据分析:挖掘数据价值的技术和方法
在数字化时代,大数据已经成为企业和科研机构的重要资源之一。然而,对于海量的数据如何进行分析和挖掘却是一个巨大的挑战。本文将介绍大数据分析的基本概念、技术和方法,帮助读者了解如何利用现代技术和工具,挖掘数据中蕴藏的价值。
587 0

热门文章

最新文章

下一篇
DDNS