![个人头像照片](https://ucc.alicdn.com/avatar/avatar3.jpg)
python,c#,scala
1、MongoDB介绍 MongoDB作为非关系型数据库的典型,广泛应用于分布式文件存储,成为NoSQL数据库中比较热门的一种。
话不多说,上图:
HBase是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统。 适合于存储大表数据(表的规模可以达到数十亿行以及数百万列),并且对大表数据的读、写访问可以达到实时级别; 利用Hadoop HDFS(Hadoop Distributed File System)作为其文件存储系统,提供高可靠性、高性能、列存储、可伸缩、实时读写的数据库系统; 利用ZooKeeper作为协同服务。
1.github登录注册 https://github.com 2.创建一个仓库 Create a New Repository 3.本地安装git客户端 http://msysgit.github.com/ 4.配置git 在本地仓库中建立文件夹 进入test目录,右击鼠标,选择git bash here 执行git init 5.配置权限 为了把本地的仓库传到github,还需要配置ssh key。
支持增删改查建表: create table orc_table(id int, name string) clustered by (id) into 4 buckets stored as orc TBLPROP...
桶表是对数据进行哈希取值,然后放到不同文件中存储 创建一个桶表 create table bucket_table(id int,name string) clustered by(id) into 4 buckets; 加载数据 set hive.
Partition 对应于数据库的 Partition 列的密集索引 在 Hive 中,表中的一个 Partition 对应于表下的一个目录,所有的 Partition 的数据都存储在对应的目录中 例如: test表中...
启动eclipse时,出现如上错误,该如何解决! 根据提示,查看报错中的log文件,定位错误! !ENTRY org.
1.访问星环客户端,下载TDH_Client压缩包 2.到该目录,解压压缩包,./init.sh 3.source init.
package epoint.mppdb_01.h3c; import java.io.File; import java.
1.抽取到hdfs成功后,就可以连接hive,创建外表了 建立外表 beeline -u jdbc:hive2://192.
第一步:新建触发器表 SET FOREIGN_KEY_CHECKS=0; DROP TABLE IF EXISTS `dataex_trigger_record`; CREATE TABLE `dataex_trig...
数据分为结构化数据(如人员信息、项目信息)和非结构化数据(如图片,文档),传统上讲,我们采用数据库来存结构化数据,如MySQL Oracle SQLServer,用NFS来存非结构化数据。
深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。
机器学习: 简单的说就是机器拥有了学习能力。这又是怎么一回事呢? 再回到人工智能的例子,只不过有所变动,我们知道,现在房价的波动有一定的规律,并感觉与年份、房间数有关,并认定规则为:房价=年份*a+房间数*b。
区块链最近几年成为了一个很热门的课题,很多人知道区块链源自比特币。 何为区块链呢?我们来演义一下: 小张在银行里存了笔钱100块,小明在银行里也开了个户。
一、平台基础 1.1、大数据 了解什么是大数据,大数据入门,以及大数据介绍。 以及大数据中存在的问题,包括存储,计算的问题,有哪些解决策略。
驱动下载地址:https://pan.baidu.com/s/1eBRESdntbnZQoN-yxJgFDA 功能:建立连接,数据读取 package com.
下载驱动:https://pan.baidu.com/s/1sV4XZbbmYtC0pAO6tewMTg 功能:将mysql中的数据表结构,自动在MPPDB中按照MPPDB语法批量创建表。
1.MPPDB简介 MPP,它是一款 Shared Nothing 架构的分布式并行数据库集群,具备高性能、高可用、高扩展特性,可以为超大规模数据管理提供高性价比的通用计算平台,并广泛地用于支撑各类数据仓库系统、BI 系统和决策支持系统。
操作步骤 1.建立外表 CREATE external TABLE t_rk_baseinfo_5kwexternal ( ROW_ID STRING, SYNC_SIGN STRING, SYNC_ERRO...
阿里的展现工具包括:快速展现工具QuickBI和大屏制作工具DataV。 当然QuickBI工具的使用和之前介绍的smartbi,FineBI,等产品类似,进行借鉴。
1. 工厂模式介绍 工厂模式(Factory Pattern)的意义就跟它的名字一样,在面向对象程序设计中,工厂通常是一个用来创建其他对象的对象。
1.什么是设计模式 在软件工程中,设计模式是对软件设计中普遍存在的各种问题,所提出的 解决方案。 换句话说,设计模式是一套被反复使用、多数人知晓的、经过分类的、代码设计的 经验的总结。
代码实例 SELECT table_schema ,table_name ,( CASE WHEN ORDINAL_POSITION = mincol ...
代码实例 SELECT table_schema ,table_name ,( CASE WHEN ORDINAL_POSITION = mincol ...
代码实例 原生: SELECT table_schema ,table_name ,( CASE WHEN ORDINAL_POSITION = mincol...
代码实例 select c.table_name, case when c.column_id=c.COLUMN_ID_MIN then 'create external table '||u.
代码实例 package com.epoint.com.mysql_mpp_full; import java.io.FileNotFoundException; import java.
代码实例 package oa.epoint.com.watchFile; import java.util.Date; import java.
代码实例 package oa.epoint.com.phoenix; import java.sql.Connection; import java.
代码实例 package oa.epoint.com.mysql_mpp; import java.sql.Connection; import java.
代码实例 package oa.epoint.com.mppdb; import java.sql.Connection; import java.
代码实例 package oa.epoint.com.hive; import java.io.UnsupportedEncodingException; import java.
代码实例 package oa.epoint.com.hdfs; import java.io.FileOutputStream; import java.
代码实例 package mysql.to.hdfs.hive; import java.sql.Connection; import java.
刷建表语句 select c.table_name, case when c.column_id=c.COLUMN_ID_MIN then 'create external table '||u.
操作步骤 第一步:在桌面左下角的开始菜单中输入“cmd”; 第二步:在搜索结果中选择“cmd.exe”,选中之后,右击,“以管理员身份运行”; 第三步:在cmd窗口中输入“slmgr -upk”,直接卸载掉秘钥程序即可,重启电脑生效。
操作步骤 1、右键计算机 ——> 属性 ——> win7家庭版如何升级到专业版和旗舰版 2、点击“获取新版本的windows 7的功能”,然后选择用密钥,输入密钥,等待完成即可。
1. 树的特征和定义 树是一种重要的非线性数据结构,直观地看,它是数据元素(在树中称为结点)按分支关系组织起来的结构,很象自然界中的树那样。
堆排序介绍 堆排序,顾名思义,就是基于堆。因此先来介绍一下堆的概念。 堆分为最大堆和最小堆,其实就是完全二叉树。
希尔排序介绍 希尔排序(Shell Sort)是插入排序的一种。也称缩小增量排序,是直接插入排序算法的一种更高效的改进版本,该方法的基本思想是:先将整个待排元素序列分割成若干个子序列(由相隔某个“增量”的元素组成的)分别进行直接插入排序,然后依次缩减增量再进行排序,待整个序列中的元素基本有序(增量足够小)时,再对全体元素进行一次直接插入排序。
#_*_coding:utf-8_*_ __author__ = 'Alex Li' def quick_sort(array,left,right): ''' :param array: ...
插入排序(Insertion Sort)的基本思想是:将列表分为2部分,左边为排序好的部分,右边为未排序的部分,循环整个列表,每次将一个待排序的记录,按其关键字大小插入到前面已经排好序的子序列中的适当位置,直到全部记录插入完成为止。
选择排序(Selection sort)是一种简单直观的排序算法。它的工作原理是每一次从待排序的数据元素中选出最小(或最大)的一个元素,存放在序列的起始位置,直到全部待排序的数据元素排完。
冒泡排序(Bubble Sort),是一种计算机科学领域的较简单的排序算法。 它重复地走访过要排序的数列,一次比较两个元素,如果他们的顺序错误就把他们交换过来。
1.算法定义 算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。
#python爬虫实例 爬取新闻 #爬取新浪新闻首页中所有的新闻,爬到本地(http://news.sina.com.cn/) #实现过程,先爬首页,通过正则表达式获取所有新闻链接,然后依次爬各新闻,并存储到本地 import urllib.
#python爬虫的浏览器伪装技术 #爬取csdn博客,会返回403错误,因为对方服务器会对爬虫进行屏蔽,此时需要伪装成浏览器才能爬取 #浏览器伪装,一般通过报头进行。
#python爬虫的异常处理 #爬虫遇到异常时就会直接崩溃停止运行,下次再运行时,又会从头开始。 #开发一个具有顽强生命力的爬虫,必须要进行异常处理。