大数据时代,我将大数据分为四个领域:数据科学、网络科学、空间地理科学与可视化技术。近来我专注于空间地理领域,学习POI、Polygon、经纬度、空间匹配算法与可视化,这让我对大数据分析工具有了更系统的思考。
大数据挖掘工具可分为七类:
存储与管理:Hadoop是分布式存储的开源框架,适合企业级应用,但需Java基础;Cloudera是其企业化管理方案;MongoDB适合非结构化数据;Talend主打元数据管理。个人推荐PostgreSQL、MySQL及CSV、JSON、GeoJSON等格式,SQL是必备技能。
数据清洗:OpenRefine专治杂乱数据,社区活跃;DataCleaner可将半结构化数据转为干净数据集。我常用Refine。
数据挖掘:RapidMiner图形化易用;IBM SPSS Modeler适合大企业;KNIME开源且可集成R与Python;Kaggle是全球数据科学竞赛社区。我主要用Modeler和KNIME。
数据分析:Qubole简化云上分析;BigML降低机器学习门槛;Statwing上手快但收费。
数据可视化:Tableau主打商业智能;CartoDB专注地图;Chartio、Plot.ly、Datawrapper各具特色。我推荐百度的ECharts,部分场景用D3.js。
数据集成:Blockspring连接Excel与第三方服务;Pentaho提供零编码集成。
数据语言:R用于统计计算,是数据科学家的必备;Python语法接近英语,广受欢迎。
工具虽多,理解其原理与适用场景,方能游刃有余。