是否可以加载PyMC3跟踪并在内存中没有原始模型的情况下访问值？

Question

我还在学习使用PyMC3的基础知识,所以希望在文档中已经不那么明显了.基本的想法是,我已经将我的模型放在一起,对它进行了一些采样以建立我的后验分布并保存链.如果我按照后端页面的建议加载链,就像trace = pm.backends.text.load('test_txt')那样我得到TypeError: No context on context stack.我期望的是,我能够将text.load方法指向已保存的数据库,并且我将获得具有所有跟踪值的numpy数组,即数据库将包含访问链值所需的所有信息.

小狩猎和装载在PyMC3一丝我能找到的唯一的例子是在这里,而显示正在使用相同的模型变量加载走线,用于创建它.如果我想要一个脚本来运行我的链和一个单独的脚本来加载和分析跟踪,那么唯一的方法就是在两个文件中使用相同的命令初始化模型.这听起来很容易在文件之间产生不一致,但是因为我必须手动保持模型相同.

这是一个从PyMC入门页面获取的示例,我保存链.我在短脚本中保存了以下代码.

import numpy as np
import pymc3 as pm
from scipy import optimize

# Initialize random number generator
np.random.seed(123)

# True parameter values
alpha, sigma = 1, 1
beta = [1, 2.5]

# Size of dataset
size = 100

# Predictor variable
X1 = np.random.randn(size)
X2 = np.random.randn(size) * 0.2

# Simulate outcome variable
Y = alpha + beta[0]*X1 + beta[1]*X2 + np.random.randn(size)*sigma

basic_model = pm.Model()

with basic_model:
    # Priors for unknown model parameters
    alpha = pm.Normal('alpha', mu=0, sd=10)
    beta = pm.Normal('beta', mu=0, sd=10, shape=2)
    sigma = pm.HalfNormal('sigma', sd=1)

    # Expected value of outcome
    mu = alpha + beta[0]*X1 + beta[1]*X2

    # Likelihood (sampling distribution) of observations
    Y_obs = pm.Normal('Y_obs', mu=mu, sd=sigma, observed=Y)

    # obtain starting values via MAP
    start = pm.find_MAP(fmin=optimize.fmin_powell)

    # instantiate sampler
    step = pm.Slice(vars=[sigma])

    # instantiate database
    db = pm.backends.Text('so_save')

    # draw 5000 posterior samples
    trace = pm.sample(5000, step=step, start=start, trace=db)

然后运行这些下一行(在Python CLI或单独的脚本中)给出

trace = pm.backends.text.load('so_save')
# TypeError: No context on context stack

trace = pm.backends.text.load('so_save', model=pm.Model())
print trace
print trace.varnames
# <MultiTrace: 1 chains, 5000 iterations, 0 variables>
# []

# run same first 36 lines from the big code block above
trace = pm.backends.text.load('so_save', model=basic_model)
print trace
print trace.varnames
# <MultiTrace: 1 chains, 5000 iterations, 4 variables>
# ['alpha', 'beta', 'sigma_log_', 'sigma']

为了更多动力/背景,我正在尝试以几种略微不同的方式对相同数据进行建模.我希望磁盘上的每个模型都有很好的长链,我只需要生成一次.然后,当我想到我想要分析痕迹的方法时,我可以将它们放在一起进行比较.

Answer 1

简短回答:

使用它来保存跟踪

import pickle # python3
import cPickle as pickle # python 2

with open('my_model.pkl', 'wb') as buff:
    pickle.dump({'model': basic_model, 'trace': trace}, buff)

然后重新加载:

with open('my_model.pkl', 'rb') as buff:
    data = pickle.load(buff)  

basic_model, trace = data['model'], data['trace']

答案很长:

关于弃用后端有一些讨论- 它们在存储需要运行很长时间的跟踪的上下文中很有用,并且可能超过内存.然后使用持久后端可以恢复已经完成的工作.汉密尔顿主义采样器效率更高,因此更短的跟踪就足够了,因此自2016年以来,磁盘后端的接收时间并不多.

加载不受信任的pickle文件存在一些危险(如果你在本地运行,这不是问题),并且重新考虑PyMC3的持久性已成为优先考虑事项,但上述内容现在应该可行.