- 1）.回归算法：
- 2）.基于实例的算法：
- 3）.决策树学习：
- 4）.贝叶斯方法：
- 5）.基于核的算法：
- 6）.聚类算法：
- 7）.降低维度算法：
- 8）.关联规则学习：
- 9）.集成算法：
- 10）人工神经网络：
- 回归算法
- 回归算法是试图采用对误差的衡量来探索变量之间的关系的一类算法。回归算法是统计机器学习的利器。常见的回归算法包括：最小二乘法（OrdinaryLeastSquare），逻辑回归（LogisticRegression），逐步式回归（StepwiseRegression），多元自适应回归样条（MultivariateAdaptiveRegressionSplines）以及本地散点平滑估计（LocallyEstimatedScatterplotSmoothing）。
- 基于实例的算法
- 先选取一批样本数据，然后根据某些近似性把新数据与样本数据进行较。通过这种方式来寻找最佳的匹配。常见的算法包括k-NearestNeighbor(KNN),学习矢量量化（LearningVectorQuantization，LVQ），以及自组织映射算法（Self-OrganizingMap，SOM）。深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。
- 决策树学习
- 常见的算法包括：分类及回归树（ClassificationAndRegressionTree，CART），ID3(IterativeDichotomiser3)，C4.5，Chi-squaredAutomaticInteractionDetection(CHAID),DecisionStump,随机森林（RandomForest），多元自适应回归样条（MARS）以及梯度推进机（GradientBoostingMachine，GBM）
- 贝叶斯方法
- 常见算法包括：朴素贝叶斯算法，平均单依赖估计（AveragedOne-DependenceEstimators，AODE），以及BayesianBeliefNetwork（BBN）
- 基于核的算法
- 常见的基于核的算法包括：支持向量机（SupportVectorMachine，SVM），径向基函数（RadialBasisFunction，RBF)，以及线性判别分析（LinearDiscriminateAnalysis，LDA)等。
- 聚类算法
- 常见的聚类算法包括k-Means算法以及期望最大化算法（ExpectationMaximization，EM）
- 降低维度算法
- 常见的算法包括：主成份分析（PrincipleComponentAnalysis，PCA），偏最小二乘回归（PartialLeastSquareRegression，PLS），Sammon映射，多维尺度（Multi-DimensionalScaling,MDS）,投影追踪（ProjectionPursuit）等。
- 关联规则学习
- 常见算法包括Apriori算法和Ect算法等。
- 集成算法
- 常见的算法包括：Boosting，BootstrappedAggregation（Bagging），AdaBoost，堆叠泛化（StackedGeneralization，Blending），梯度推进机（GradientBoostingMachine,GBM），随机森林（RandomForest）
- 人工神经网络
- 人工神经网络是机器学习的一个庞大的分支，有几百种不同的算法。（其中深度学习就是其中的一类算法），重要的人工神经网络算法包括：感知器神经网络（PerceptronNeuralNetwork）,反向传递（BackPropagation），Hopfield网络，自组织映射（Self-OrganizingMap,SOM）。学习矢量量化（LearningVectorQuantization，LVQ）
