python实现贝叶斯推断的例子

1. 前言

        本文介绍一个贝叶斯推断的python实现例，并展现了基于标量运算的实现和基于numpy的矩阵运算的实现之间的差别。

2. 问题描述

本问题例取自于ref1-chapter1.

问题描述：假设有一个制作灯泡的机器。你想知道机器是正常工作还是有问题。为了得到答案你可以测试每一个灯泡，但是灯泡数量很多，每一个都测试在实际生产过程中可能是无法承受的。使用贝叶斯推断，你可以基于少量样本（比如说抽检结果）来估计机器是否在正常地工作（in probabilistic way）。

构建贝叶斯推断时，首先需要两个要素:

(1) 先验分布

(2) 似然率

先验分布是我们关于机器工作状态的初始信念。首先我们确定第一个刻画机器工作状态的随机变量，记为m。这个随机变量有两个工作状态：{working, broken}，以下简写成{w, br}(缩写成br是为了与下面的bad缩写成b区分开来)。作为初始信念，我们相信机器是好的，是可以正常工作的，定义先验分布如下：

p(m=working) = 0.99

p(m=broken ) = 0.01

这表明我们对于机器正常工作的信念度很高，有99%的概率能够正常工作。

第二个随机变量是l，表示机器生产的灯泡的工作状态。灯泡可能是好，也可能是坏的，包含两个状态：{good, bad}，以下简写成{g,b}，注意br与b的区别。

我们需要基于机器工作状态给出l的先验分布，也就是条件概率p(l|m)，在贝叶斯公式中它代表似然概率(likelihood)。

定义这个似然概率分布（由于m和l各有两种状态，所以一共包含4个条件概率）如下：

p(l=good|m=w) = 0.99

p(l=bad |m=w) = 0.01

p(l=good|m=br ) = 0.6

p(l=bad |m=br ) = 0.4

以上似然概率表明，在机器正常时我们相信每生成100个灯泡只会有一个坏的，而机器不正常时也不是所有灯泡都是坏的，而是有40%会是坏的。为了实现的方便，可以写成如下的矩阵形式：

        现在，我们已经完整地刻画了贝叶斯模型，可以用它来做一些神奇的估计和预测的工作了。

        我们的输入是一些灯泡的抽检结果。假设我们抽检了十个灯泡其抽检结果如下：

   {bad, good, good, good, good, good, good, good, good, good}

        让我们来看看基于贝叶斯推断的我们对于机器工作状态的信念（后验概率）如何变化。

3. 贝叶斯规则

        贝叶斯推断规则以贝叶斯公式的形式表示为：

         具体映射到本问题中可以表达如下：

         贝

叶斯推断的优先在于可以以在线（online）的方式进行，即观测数据可以一个一个地到来，每次受到一个新的观测数据，就进行一次基于贝叶斯公式的后验概率的计算更新，而更新后的后验概率又作为下一贝叶斯推断的先验概率使用。因此在线的贝叶斯推断的基本处理流程如下所示：

4. bayes engine: scalar implementation

        首先，我们以标量运算的方式写一个函数来进行bayes推断处理。

        prior以向量的形式存储先验概率分布，prior[0]表示p(m=working)，prior[1]表示p(m=broken)。

        likelihood以矩阵的形式方式存储似然概率分布。其中第1行表示p(l/m=working)，第2行表示p(l/m=broken).

        在本例中，当输入 时，evidence的计算式（注意evidence是依赖于输入的观测数据的）是:

        注意，当我写p(w)其实是表示p(m=w)，而 其实是表示 ，余者类推。根据上下文，这些应该不会导致混淆。

        第一个函数的代码如下：

def bayes_scalar(prior, likelihood, data):
    """
    bayesian inference function example.
    parameters
    ----------
    prior : float, 1-d vector
        prior information, p(x).
    likelihood : float 2-d matrix
        likelihood function, p(y|x).
    data : list of strings. value: 'good','bad'
        observed data samples sequence
    returns
    -------
    posterior : float
        p(x,y), posterior sequence.
    """
    
    posterior = np.zeros((len(data)+1,2))
    posterior[0,:] = prior  # not used in computation, just for the later plotting
 
    for k,l in enumerate(data):
        if l == 'good':
            l_value = 0
        else:
            l_value = 1
        #print(l, l_value, likelihood[:,l_value])
 
        evidence      = likelihood[0,l_value] * prior[0] + likelihood[1,l_value] * prior[1]
        ll0_prior_prod= likelihood[0,l_value] * prior[0]                
        posterior[k+1,0]  = ll0_prior_prod / evidence
 
        ll1_prior_prod= likelihood[1,l_value] * prior[1]        
        posterior[k+1,1]  = ll1_prior_prod / evidence
        
        prior = posterior[k+1,:] # using the calculated posterior at this step as the prior for the next step
                
    return posterior

 5. bayes engine: vectorization

        我们注意到，evidence的计算可以表示成两个向量的点积，如下所示。

        这样就非常方便用numpy来实现了。本例中每个随机变量只有两种取值，在复杂的情况下，每个随机变量有很多种取值时，有效利用向量或矩阵的运算是简洁的运算实现的必不可缺的要素。以上这两个向量的点积可以用numpy.dot()来实现。

        另外，likelihood和prior的乘积是分别针对m的两种状态进行计算（注意，我们需要针对m的两种不同状态分别计算posterior），不是用向量的点积进行计算，而是一种element-wise multiplication，可以用numpy.multiply()进行计算。所以在vectorization版本中贝叶斯更新处理削减为两条语句，与上面的scalar版本相比显得非常优雅简洁（好吧，也许这个简单例子中还显不出那么明显的优势，但是随着问题的复杂度的增加，这种优势就会越来越明显了。）

         由此我们得到向量化处理的函数如下： 

def bayes_vector(prior, likelihood, data):
    """
    bayesian inference function example.
    parameters
    ----------
    prior : float, 1-d vector
        prior information, p(x).
    likelihood : float 2-d matrix
        likelihood function, p(y|x).
    data : list of strings. value: 'good','bad'
        observed data samples sequence
    returns
    -------
    posterior : float
        p(x,y), posterior sequence.
    """
    
    posterior = np.zeros((len(data)+1,2))
    posterior[0,:] = prior  # not used in computation, just for the later plotting
 
    for k,l in enumerate(data):
        if l == 'good':
            l_value = 0
        else:
            l_value = 1
        #print(l, l_value, likelihood[:,l_value])
 
        evidence          = np.dot(likelihood[:,l_value], prior[:])
        posterior[k+1,:]  = np.multiply(likelihood[:,l_value],prior)/evidence
 
        prior = posterior[k+1,:] # using the calculated posterior at this step as the prior for the next step
        
    return posterior

6. 测试

        让我们来看看利用以上函数对我们的观测数据进行处理，后验概率将会如何变化。

import numpy as np
import matplotlib.pyplot as plt
 
prior      = np.array([0.99,0.01])
likelihood = np.array([[0.99,0.01],[0.6,0.4]])
data       = ['bad','good','good','good','good','good','good','good']        
 
posterior1 = bayes_scalar(prior,likelihood,data)
posterior2 = bayes_vector(prior,likelihood,data)
 
if np.allclose(posterior1,posterior2):
    print('posterior1 and posterior2 are identical!')
 
fig, ax = plt.subplots()
ax.plot(posterior1[:,0])
ax.plot(posterior1[:,1])
ax.grid()
# fig.suptitle('poeterior curve vs observed data')
ax.set_title('posterior curve vs observed data')
plt.show()

        运行以上代码可以得到后验概率的变化如下图所示（注意第一个点是prior）：

         当然以上代码也顺便验证了一下两个版本的bayes函数是完全等价的。

7. 后记

        大功告成。

        第1个关于贝叶斯统计的学习的程序和第1篇关于贝叶斯统计的学习的博客。

        其它有的没的等想到了什么再回头来写。

[ref1] 《概率图模型:基于r语言》,david bellot著, 魏博译

到此这篇关于python实现贝叶斯推断的例子的文章就介绍到这了,更多相关python 贝叶斯推断内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持！