在python中为一对发行版生成MLE

Question

好的,所以我当前的曲线拟合代码有一个步骤,使用scipy.stats根据数据确定正确的分布,

distributions = [st.laplace, st.norm, st.expon, st.dweibull, st.invweibull, st.lognorm, st.uniform]
mles = []

for distribution in distributions:
    pars = distribution.fit(data)
    mle = distribution.nnlf(pars, data)
    mles.append(mle)

results = [(distribution.name, mle) for distribution, mle in zip(distributions, mles)]

for dist in sorted(zip(distributions, mles), key=lambda d: d[1]):
    print dist
best_fit = sorted(zip(distributions, mles), key=lambda d: d[1])[0]
print 'Best fit reached using {}, MLE value: {}'.format(best_fit[0].name, best_fit[1])          


print [mod[0].name for mod in sorted(zip(distributions, mles), key=lambda d: d[1])]

数据是数值列表.到目前为止,这对于拟合单峰分布非常有效,在脚本中确认,该脚本随机生成随机分布的值并使用curve_fit重新确定参数.

现在我想使代码能够处理双峰分布,如下例所示:

是否有可能从scipy.stats获取一对模型的MLE,以确定特定的一对分布是否适合数据？,类似于

distributions = [st.laplace, st.norm, st.expon, st.dweibull, st.invweibull, st.lognorm, st.uniform]
distributionPairs = [[modelA.name, modelB.name] for modelA in distributions for modelB in distributions]

并使用这些对来获得适合数据的那对分布的MLE值？

Answer 1

这不是完整的答案，但可能会帮助您解决问题。假设您知道您的问题是由两种密度产生的。解决方案是使用k-mean 或 EM 算法。

初始化。您可以通过将每个观察影响到一种或另一种密度来初始化算法。然后初始化两个密度（初始化密度的参数，您的情况下的参数之一是“高斯”、“拉普拉斯”等......迭代。然后，迭代地运行以下两个步骤：

步骤1. 假设每个点的影响都是正确的，优化参数。您现在可以使用任何优化求解器。此步骤为您提供适合您的数据的最佳两个密度（使用给定参数）的估计。

步骤 2. 根据最大​​可能性将每个观察结果分类为一种密度或另一种密度。

重复直到收敛。

这个网页对此有很好的解释 https://people.duke.edu/~ccc14/sta-663/EMAlgorithm.html

如果您不知道有多少密度生成了数据，则问题会更加困难。你必须处理惩罚分类问题，这有点困难。

这是一个简单情况下的编码示例：您知道您的数据来自 2 个不同的高斯（您不知道每个密度生成了多少个变量）。在您的情况下，您可以调整此代码以在每个可能的密度对上循环（计算时间更长，但我认为根据经验可以工作）

import scipy.stats as st
import numpy as np

#hard coded data generation
data = np.random.normal(-3, 1, size = 1000)
data[600:] = np.random.normal(loc = 3, scale = 2, size=400)

#initialization

mu1 = -1
sigma1 = 1

mu2 = 1
sigma2 = 1

#criterion to stop iteration
epsilon = 0.1
stop = False

while  not stop :  
    #step1
    classification = np.zeros(len(data))
    classification[st.norm.pdf(data, mu1, sigma1) > st.norm.pdf(data, mu2, sigma2)] = 1

    mu1_old, mu2_old, sigma1_old, sigma2_old = mu1, mu2, sigma1, sigma2

    #step2
    pars1 = st.norm.fit(data[classification == 1])
    mu1, sigma1 = pars1
    pars2 = st.norm.fit(data[classification == 0])
    mu2, sigma2 = pars2

    #stopping criterion
    stop = ((mu1_old - mu1)**2 + (mu2_old - mu2)**2 +(sigma1_old - sigma1)**2 +(sigma2_old - sigma2)**2) < epsilon

#result    
print("The first density is gaussian :", mu1, sigma1)
print("The first density is gaussian :", mu2, sigma2)
print("A rate of ", np.mean(classification), "is classified in the first density")

希望能帮助到你。