|
然后考虑身份:nXi=1(xi- u)=n∑+n((R)x- u)(32)对数似然为:ln(u,σ)=-nlog(2π)-nlog(σ)-n∑2σ-n((R)x- u)2σ(33)在我们的例子中,贝叶斯推断有两种情况:分布具有已知的方差σ,但均值u未知,分布具有未知的方差σ和均值u未知(Murphy(2007))。具有未知均值和已知方差的贝叶斯推断提供了具有已知方差σ但未知均值u的分布。然后,概率作为u的函数由以下公式给出:Ln(u)=p(x |u)~ 经验值-n((R)x- u)2σ(34)共轭先验是具有均值u和方差σ的高斯分布。非正规化先验ppriorp的概率密度函数(u)~ 经验值-(u - u)2σ(35)将Ln(u)p(u)的乘积与正态分布N(up,σp)的概率密度函数(pdf)相等,得到后验分布的平均u和方差σpof,后验分布参数=N(up,σp)。upis的后验平均值表示为样本平均值和前验平均值的加权平均值,其中权重与精度成正比:up=n'xσ+uσnσ+σ(36),方差σσp=nσ+σ(37),这里,'x=nPni=1xi。每次观测都会通过一次观测的精度λ=σ来提高后验分布的精度。如果我们只对平均值的推断感兴趣,并且样本量不太小,我们可以通过将标准偏差σ视为已知值并等于样本标准偏差∑n:σ,来获得对后验分布的合理近似≈ ∑n=nnXi=1(xi- (R)x)(38)我们知识的更准确表示应该考虑未知方差(或精度)。具有未知平均值和未知方差的贝叶斯推断平均值u和精度λ=1/σ的共轭先验为正态伽马分布:pprior(u,λ)=N(u|u,(κλ)-1) γ(λ|α,β)==ZNGλα-1exp(-βλ)×λ1/2exp-κλ(u - u)(39)ZNG=Γ(α)βα2πκ(40)这里α、β、u、κ是超参数。
|