数据分享|Python用PyMC3贝叶斯模型平均BMA:采样、信息准则比较和预测可视化灵长类动物的乳汁成分数据

简介: 数据分享|Python用PyMC3贝叶斯模型平均BMA:采样、信息准则比较和预测可视化灵长类动物的乳汁成分数据

全文链接:https://tecdat.cn/?p=33449


当面对多个模型时,我们有多种选择点击文末“阅读原文”获取完整代码数据


模型选择因其简单性而具有吸引力,但我们正在丢弃有关模型中不确定性的信息。

print(f"Runing

image.png

模型平均


一种替代方法是执行模型选择,但讨论所有不同的模型以及给定信息准则的计算值。重要的是要将所有这些数字和测试放在我们问题的背景下,以便我们和客户能够更好地了解方法可能存在的局限性和缺点。如果你在学术界,你可以使用这种方法向论文、演示文稿、论文等的讨论部分添加元素。

另一种方法是执行模型平均。现在的想法是使用模型的加权平均值生成元模型(和元预测)。有几种方法可以做到这一点,PyMC3 包括其中的 3 种,我们将简要讨论,您将在 Yuling Yao 等人的工作中找到更彻底的解释。

伪贝叶斯模型平均

贝叶斯模型可以通过其边缘概率进行加权,这被称为贝叶斯模型平均。我们可以使用以下公式来做到这一点:

image.png

这种方法称为伪贝叶斯模型平均或类似赤池的加权,是一种启发式方法,用于根据信息标准值计算每个模型(给定一组固定的模型)的相对概率。看看分母只是一个归一化项,以确保权重总和为 1。

使用贝叶斯自举进行伪贝叶斯模型平均

上述计算权重的公式是一种非常好且简单的方法,但它没有考虑 IC 计算中的不确定性。

堆叠

在PyMC3中实现的第三种方法被称为预测分布的堆叠,并且最近被提出。我们希望在一个元模型中组合多个模型,以最小化元模型和真实生成模型之间的分歧,当使用对数评分规则时,这相当于:

image.png

加权后验预测样本

一旦我们计算了权重,使用上述 3 种方法中的任何一种,我们就可以使用它们来获得加权后验预测样本。PyMC3 提供了以简单方式执行这些步骤的函数,因此让我们通过示例查看它们的实际效果。

简而言之,我们的问题如下:我们想探索几种灵长类动物的乳汁成分数据查看文末了解数据免费获取方式,假设来自大脑较大的灵长类动物的雌性产生更有营养的牛奶(这样做是为了*支持这种大大脑的发育)。对于进化生物学家来说,这是一个重要的问题,为了给出和回答,我们将使用3个变量,两个预测变量:新皮层的比例与总质量的比较 大脑和母亲体重的对数。对于预测变量,每克牛奶的千卡。使用这些变量,我们将构建 3 个不同的线性模型:

  1. 仅使用新皮层变量的模型
  2. 仅使用质量变量对数的模型
  3. 使用两个变量的模型
d.iloc[:, 1:] = d.iloc[:, 1:] - d.iloc[:, 1:].mean()
d.head()

image.png

现在我们有了数据,我们将仅使用 neocortex

with pm.Model() as model_0:
  
    trace_0 = pm.sample(2000, return_inferencedata=True)

image.png

第二个模型与第一个模型完全相同,只是我们现在使用质量的对数

with pm.Model() as model_1:
 
    trace_1 = pm.sample(2000, return_inferencedata=True)

image.png

最后是第三个模型使用 neocortex和 变量log_mass

with pm.Model() as model_2:
   
    trace_2 = pm.sample(2000, return_inferencedata=True)

image.png

现在我们已经对 3 个模型的后验进行了采样,我们将对它们进行视觉比较。一种选择是使用forestplot支持绘制多个迹线的函数。

az.plot_fo

image.png

另一种选择是在同一图中绘制多条迹线是使用densityplot


点击标题查阅往期内容


R语言用贝叶斯线性回归、贝叶斯模型平均 (BMA)来预测工人工资


01

02

03

04


az.plot_d

image.png

现在我们已经对 3 个模型的后验进行了采样,我们将使用 WAIC(广泛适用的信息标准)来比较 3 个模型。我们可以使用 PyMC3 附带的compare功能来做到这一点。

comp = az.compare(model_dict)
comp

image.png

我们可以看到最好的模型是,具有两个预测变量的模型。请注意,数据帧按从最低到最高 WAIC 的顺序(最差的模型)。

现在,我们将使用copmuted来生成预测,而不是基于单个模型,而是基于加权模型集。

ppc_w = pm.sample_posterior_predictive_w(

image.png

请注意,我们正在传递按其索引排序的权重。

我们还将计算最低 WAIC 模型的 PPC

ppc_2 = pm.sample_posterior_predi

比较这两种预测的一种简单方法是绘制它们的平均值和 hpd 区间

plt.yticks([])
plt.ylim(-1, 2)
plt.legend();

image.png

正如我们所看到的,两个预测的平均值几乎相同,但加权模型中的不确定性更大。我们已经有效地将我们应该选择哪个模型的不确定性传递到后验预测样本中。


结语:


还有其他方法可以平均模型,例如,显式构建一个包含我们拥有的所有模型的元模型。然后,我们在模型之间跳转时执行参数推理。这种方法的一个问题是,在模型之间跳跃可能会妨碍后验的正确采样。


版本信息


%load_ext watermark
%watermark -n -u -v -iv -w

image.png

相关文章
|
11天前
|
数据采集 JSON 数据处理
抓取和分析JSON数据:使用Python构建数据处理管道
在大数据时代,电商网站如亚马逊、京东等成为数据采集的重要来源。本文介绍如何使用Python结合代理IP、多线程等技术,高效、隐秘地抓取并处理电商网站的JSON数据。通过爬虫代理服务,模拟真实用户行为,提升抓取效率和稳定性。示例代码展示了如何抓取亚马逊商品信息并进行解析。
抓取和分析JSON数据:使用Python构建数据处理管道
|
9天前
|
数据可视化 算法 JavaScript
基于图论的时间序列数据平稳性与连通性分析:利用图形、数学和 Python 揭示时间序列数据中的隐藏模式
本文探讨了如何利用图论分析时间序列数据的平稳性和连通性。通过将时间序列数据转换为图结构,计算片段间的相似性,并构建连通图,可以揭示数据中的隐藏模式。文章介绍了平稳性的概念,提出了基于图的平稳性度量,并展示了图分区在可视化平稳性中的应用。此外,还模拟了不同平稳性和非平稳性程度的信号,分析了图度量的变化,为时间序列数据分析提供了新视角。
25 0
基于图论的时间序列数据平稳性与连通性分析:利用图形、数学和 Python 揭示时间序列数据中的隐藏模式
|
18天前
|
自然语言处理 算法 数据挖掘
探讨如何利用Python中的NLP工具,从被动收集到主动分析文本数据的过程
【10月更文挑战第11天】本文介绍了自然语言处理(NLP)在文本分析中的应用,从被动收集到主动分析的过程。通过Python代码示例,详细展示了文本预处理、特征提取、情感分析和主题建模等关键技术,帮助读者理解如何有效利用NLP工具进行文本数据分析。
40 2
|
17天前
|
数据采集 数据可视化 数据挖掘
使用Python进行数据处理与可视化——以气温数据分析为例
【10月更文挑战第12天】使用Python进行数据处理与可视化——以气温数据分析为例
128 0
|
11月前
|
Python
跟我从0学Python——类的继承和多态
类的继承和多态 —— 面向对象编程的扩展与灵活性
|
6月前
|
搜索推荐 Python
Python学习 -- 类的继承
Python学习 -- 类的继承
41 0
|
11月前
|
Kotlin Python
Python(三十一)python类class继承与多态
Python是一门面向对象语言 面向对象的三大特征:封装、继承、多态 我们这里来看一下python 类的继承 通过继承创建的新类称为子类或派生类,被继承的类称为基类、父类或超类。 一:类的继承 1 :继承语法 arduino 复制代码 class 派生类名(基类名) ... 通常我们定义的类没有指定继承对象都是继承自object类,另外,python是支持多继承的。 下边我们使用代码来演示一下python的继承: 我们定义一个person类,其中有name、age两个属性,getInfo方法,为父类。 我们定义一个school类,其中getSchoolInfo方法,为父类。 定义一
57 0
|
搜索推荐 Python
Python学习 -- 类的继承
Python学习 -- 类的继承
48 0
|
Python
Python教程:类的继承,什么是继承
- 继承是一种新建类的方式,新建的类称为子类,被继承的类称为父类 - 继承的特性是:子类会遗传父类的属性 - 继承是类与类之间的关系
142 0
Python教程:类的继承,什么是继承
|
Python
python 类的继承
python 类的继承
96 0