决策树概念学习

简介:   决策树(Decision Tree)是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法,是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干,故称决策树。

  决策树(Decision Tree)是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法,是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干,故称决策树。在机器学习中,决策树是一个预测模型,他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度,使用算法ID3, C4.5和C5.0生成树算法使用熵。这一度量是基于信息学理论中熵的概念。

  

1、应用决策树爱作决策的过程,是从右向左逐步后退进行分析。根据右端的损益值和概率枝的概率,计算出期望值的大小,确定方案的期望结果,然后根据不同方案结果做出选择。

2、计算完毕后,开始对决策树进行剪枝,在每个决策结点删去除了最高期望值以外的其他所有分支,最后步步推进到第一个决策结点,这时就找到了问题的最佳方案。方案的舍弃叫做修枝,被舍弃的方案用"≠"的记号来表示,最后的决策点留下一条树枝,即为最优方案。

 

案例:

为了适应市场的需要,某地提出了扩大电视机生产的两个方案。一个方案是建设大工厂,第二个方案是建设小工厂。
条件:
建设大工厂需要投资600万元,可使用10年。销路好每年赢利200万元,销路不好则亏损40万元。
建设小工厂投资280万元,如销路好,3年后扩建,扩建需要投资400万元,可使用7年,每年赢利190万元。不扩建则每年赢利80万元。如销路不好则每年赢利60万元。
试用决策树法选出合理的决策方案。 经过市场调查,市场销路好的概率为0.7,销路不好的概率为0.3。
 
计算各点的期望值:
点②:0.7×200×10+0.3×(-40)×10-600(投资)=680(万元)
点⑤:1.0×190×7-400=930(万元)
点⑥:1.0×80×7=560(万元)
比较决策点4的情况可以看到,由于点⑤(930万元)与点⑥(560万元)相比,点⑤的期望利润值较大,因此应采用扩建的方案,而舍弃不扩建的方案。
把点⑤的930万元移到点4来,可计算出点③的期望利润值:
点③:0.7×80×3+0.7×930+0.3×60×(3+7)-280 = 719(万元)
最后比较决策点1的情况:
由于点③(719万元)与点②(680万元)相比,点③的期望利润值较大,因此取点③而舍点②。这样,相比之下,建设大工厂的方案不是最优方案,合理的策略应采用前3年建小工厂,如销路好,后7年进行扩建的方案。 
目录
相关文章
|
5月前
|
机器学习/深度学习 存储 算法
机器学习面试笔试知识点之非监督学习-K 均值聚类、高斯混合模型(GMM)、自组织映射神经网络(SOM)
机器学习面试笔试知识点之非监督学习-K 均值聚类、高斯混合模型(GMM)、自组织映射神经网络(SOM)
47 0
|
8月前
|
机器学习/深度学习 数据可视化 算法
解读随机森林的决策树:揭示模型背后的奥秘
通过解读随机森林决策树,我们可以揭示模型背后的奥秘。我们可以分析决策树节点的重要性和特征的贡献度,了解模型预测的依据。随机森林决策树还可以应用于金融风险评估、医学诊断等领域,并取得了很多成功案例。继续研究随机森林和决策树的价值将有助于提升模型的性能和解释能力。
91 0
|
10月前
|
机器学习/深度学习 人工智能 算法
强化学习基础篇【1】:基础知识点、马尔科夫决策过程、蒙特卡洛策略梯度定理、REINFORCE 算法
强化学习基础篇【1】:基础知识点、马尔科夫决策过程、蒙特卡洛策略梯度定理、REINFORCE 算法
 强化学习基础篇【1】:基础知识点、马尔科夫决策过程、蒙特卡洛策略梯度定理、REINFORCE 算法
|
11月前
|
机器学习/深度学习 存储 人工智能
什么是概率图模型?
概率图模型是机器学习的一个分支,重点研究如何利用概率分布描述真实世界并对其做出有价值的预测。本教程对图模型的讨论将分为三个主要部分:表示(如何描述模型)、推理(如何向模型提问)和学习(如何用现实数据训练模型)。这三个主题相辅相成,从零开始一步一步带你深入理解最前沿的因果AI理论。
137 0
什么是概率图模型?
|
11月前
|
机器学习/深度学习 算法
【机器学习算法】13、决策树与随机森林(非常的全面讲解和实践)(一)
【机器学习算法】13、决策树与随机森林(非常的全面讲解和实践)(一)
141 0
|
11月前
|
机器学习/深度学习 算法 前端开发
【机器学习算法】13、决策树与随机森林(非常的全面讲解和实践)(二)
【机器学习算法】13、决策树与随机森林(非常的全面讲解和实践)(二)
231 0
|
11月前
|
机器学习/深度学习 算法
【机器学习算法】13、决策树与随机森林(非常的全面讲解和实践)(三)
【机器学习算法】13、决策树与随机森林(非常的全面讲解和实践)(三)
56 0
|
算法
决策树ID3算法和C4.5算法实战
决策树ID3算法和C4.5算法实战
112 0
决策树ID3算法和C4.5算法实战
|
XML 机器学习/深度学习 人工智能
【机器学习】集成学习(Boosting)——梯度提升树(GBDT)算法(理论+图解+公式推导)
【机器学习】集成学习(Boosting)——梯度提升树(GBDT)算法(理论+图解+公式推导)
229 0
【机器学习】集成学习(Boosting)——梯度提升树(GBDT)算法(理论+图解+公式推导)
|
机器学习/深度学习 人工智能 vr&ar
【机器学习】线性回归——岭回归解决过拟合问题(理论+图解+公式推导)
【机器学习】线性回归——岭回归解决过拟合问题(理论+图解+公式推导)
168 0
【机器学习】线性回归——岭回归解决过拟合问题(理论+图解+公式推导)