citibank_个人页

提升树与梯度提升树算法

我们对Boosting家族的Adaboost算法做了总结，本文就对Boosting家族中另一个重要的算法梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT)做一个总结。

Adaboost算法

之前的博客中讲到了集成学习按照个体学习器之间是否存在依赖关系可以分为两类，第一个是个体学习器之间存在强依赖关系，另一类是个体学习器之间不存在强依赖关系。前者的代表算法就是是boosting系列算法。在boosting系列算法中， Adaboost是最著名的算法之一。

centos7安装Cloudera Manager

第一部分：准备工作一，修改hostname $vim /etc/sysconfig/network $source /etc/sysconfig/network 例如： NETWORKING=yes HOSTNAME=spark01 reboot重启服务器 二，关闭selinux查看SELin.

怎么使用pipenv管理你的python项目

linux统计文件数量

非极大值抑制（non-maximum suppression）的理解

Python中*和**的使用

hive权限控制

<property> <name>hive.server2.authentication</name> <value>CUSTOM</value> </property> <property> <name>hive.

hive使用指南

创建库：create database base_name; 创建内/外部表： CREATE EXTERNAL TABLE t_lxw1234 ( id INT, ip STRING COMMENT ‘访问者IP’, avg_view_depth DECIMAL(5,1), ...

Spark性能优化：数据倾斜调优

Spark性能优化：资源调优篇

在开发完Spark作业之后，就该为作业配置合适的资源了。Spark的资源参数，基本都可以在spark-submit命令中作为参数设置。很多Spark初学者，通常不知道该设置哪些必要的参数，以及如何设置这些参数，最后就只能胡乱设置，甚至压根儿不设置。

linux下查看CPU、内存、磁盘信息

spark submit参数及调优

spark submit参数介绍你可以通过spark-submit --help或者spark-shell --help来查看这些参数。使用格式: ./bin/spark-submit \ --class \ --master \ --deploy-mode \ --conf = \ .

K-Means聚类算法原理

SVM中的核函数

pandas使用总结（持续更新。。。。。。）

nunique()返回不同方向中不同的观察值的个数，返回Series

精确率与召回率，RoC曲线与PR曲线

搭建模型第一步：你需要预习的NumPy基础都在这了

gensim函数库的Word2Vec的参数说明

Python中通过csv的writerow输出的内容有多余的空行

linux安装xgboost快速高效方法

Sklearn-GridSearchCV网格搜索

XGBOOST原理解析

1.引言最近，因为一些原因，自己需要做一个小范围的XGBoost的实现层面的分享，于是干脆就整理了一下相关的资料，串接出了这份report，也算跟这里的问题相关，算是从一个更偏算法实现的角度，提供一份参考资料吧。

集成学习原理小结

hadoop之HDFS源码分析---HDFS通信协议

条件随机场CRF(一)从随机场到线性链条件随机场

文件读写模式

word2vec原理(三) 基于Negative Sampling的模型

word2vec原理(二) 基于Hierarchical Softmax的模型

在word2vec原理(一) CBOW与Skip-Gram模型基础中，我们讲到了使用神经网络的方法来得到词向量语言模型的原理和一些问题，现在我们开始关注word2vec的语言模型如何改进传统的神经网络的方法。

word2vec原理(一) CBOW与Skip-Gram模型基础

TextRank算法抽取关键词

PageRank 由于TextRank是由大名鼎鼎的Google的PageRank算法转化而来，所以这里先介绍一下PageRank算法。 PageRank最开始用来计算网页的重要性。在衡量一个网页的排名时，直觉告诉我们： （1）一个网页被更多网页链接时，就应该越重要，其排名就应该越靠前。

怎么使用pipenv管理你的python项目

隐马尔科夫模型HMM（四）维特比算法解码隐藏状态序列

隐马尔科夫模型HMM（三）鲍姆-韦尔奇算法求解HMM参数

隐马尔科夫模型HMM（一）HMM模型

隐马尔科夫模型（Hidden Markov Model，以下简称HMM）是比较经典的机器学习模型了，它在语言识别，自然语言处理，模式识别等领域得到广泛的应用。当然，随着目前深度学习的崛起，尤其是RNN，LSTM等神经网络序列模型的火热，HMM的地位有所下降。

隐马尔科夫模型HMM（二）前向后向算法评估观察序列概率

文本主题模型之LDA（一）LDA基础

LDA线性判别分析原理

PCA主成分分析原理

MCMC(四)Gibbs采样

在MCMC(三)MCMC采样和M-H采样中，我们讲到了M-H采样已经可以很好的解决蒙特卡罗方法需要的任意概率分布的样本集的问题。但是M-H采样有两个缺点：一是需要计算接受率，在高维时计算量大。并且由于接受率的原因导致算法收敛时间变长。

MCMC(三)MCMC采样和M-H采样

　在MCMC(二)马尔科夫链中我们讲到给定一个概率平稳分布ππ, 很难直接找到对应的马尔科夫链状态转移矩阵PP。而只要解决这个问题，我们就可以找到一种通用的概率分布采样方法，进而用于蒙特卡罗模拟。本篇我们就讨论解决这个问题的办法：MCMC采样和它的易用版M-H采样。

MCMC(一)蒙特卡罗方法

1. MCMC概述从名字我们可以看出，MCMC由两个MC组成，即蒙特卡罗方法（Monte Carlo Simulation，简称MC）和马尔科夫链（Markov Chain ，也简称MC）。要弄懂MCMC的原理我们首先得搞清楚蒙特卡罗方法和马尔科夫链的原理。

真正理解拉格朗日乘子法和 KKT 条件

这篇博文中直观上讲解了拉格朗日乘子法和 KKT 条件，对偶问题等内容。首先从无约束的优化问题讲起，一般就是要使一个表达式取到最小值： $$ min \quad f(x) $$ 如果问题是$max \quad f(x)$ 也可以通过取反转化为求最小值 $min \quad-f(x)$，这个是一个习惯。

SVM算法

支持向量机(Support Vecor Machine,以下简称SVM)虽然诞生只有短短的二十多年，但是自一诞生便由于它良好的分类性能席卷了机器学习领域，并牢牢压制了神经网络领域好多年。如果不考虑集成学习的算法，不考虑特定的训练数据集，在分类算法中的表现SVM说是排第一估计是没有什么异议的。

KNN算法

K近邻法(k-nearst neighbors,KNN)是一种很基本的机器学习方法了，在我们平常的生活中也会不自主的应用。比如，我们判断一个人的人品，只需要观察他来往最密切的几个人的人品好坏就可以得出了。

逻辑回归算法

逻辑回归是一个分类算法，它可以处理二元分类以及多元分类。虽然它名字里面有“回归”两个字，却不是一个回归算法。那为什么有“回归”这个误导性的词呢？个人认为，虽然逻辑回归是分类模型，但是它的原理里面却残留着回归模型的影子，本文对逻辑回归原理做一个总结。

基于以太坊搭建联盟链

EM算法

一. EM算法要解决的问题我们经常会从样本观察数据中，找出样本的模型参数。 最常用的方法就是极大化模型分布的对数似然函数。但是在一些情况下，我们得到的观察数据有未观察到的隐含数据，此时我们未知的有隐含数据和模型参数，因而无法直接用极大化对数似然函数得到模型分布的参数。

python包引用问题

phantomjs安装所需依赖