|
后部isp(u| D,u,σ)∝ p(u|u,σ)p(D |u,σ)∝ 经验-θ(u - u)2σ经验-N(u)- \'-x)2σ∝ 经验-θ(u - u)2σ-θ(u - u)2σ, (7.8)式中,u=’x表示数据集的样本平均值,θ=N-1.如果我们的目标是计算MAP分布,那么我们有一个优化问题L=minu∈Rθ(u)- u)2σ+θ(u - u)2σ. (7)微升≡θ(u - u)2σ,F(u)≡θ(u - u)2σ,(7.10),因此我们有L=minu∈射频(u)+F(u)。由于Fand Fare是凸的,我们可以将Fenchel的性质应用于问题L,这就给出了下面的对偶问题- L=分钟∈射频*(s) +F*(-s) ,(7.11)其中F*是FF的Legendre-Fenchel变换*(s) =supu∈卢比u- F(s)=su+σθs,(7.12)和类似的F*(s) =su+σθs。选择超参数u=0,σ=1,我们最终得到- L=分钟∈Rθs+-su+σθs= 分钟∈Rc(x)+ρ(s)。(7.13)这正是代理人的目标。由于s和u彼此是对偶的,市场在平均参数的对偶空间中执行贝叶斯更新(MAP估计)。7.3逻辑回归在第三个例子中,我们讨论了一个经典的机器学习问题。给定一个数据集D={xm,ym}|xm∈RK,ym={+1,-1} ,m=1,M},我们想用l正则化建立逻辑回归模型。目标isL=minw∈RKMMXm=1log1+eym(w·xm)+λkwk,(7.14),其中k·k是lnorm。为了将这个问题转化为一个市场,我们使用(5.2)和命题1。让样本空间成为生成数据的空间Ohm ≡ RK∪{+1, -1} 每个未来状态都与Ohm, ω={x,y}。定义证券,每个证券都是ξk(ω)=yxk。我们引入了N=K个代理人,使得代理人N=K只对第K个证券ξK的交易感兴趣。因此,代理人N持有的证券K的份额为sn,K=1(N=K)wk,资产为Xn=sn·ξ=wnξN。市场库存为s=Pnsn=w。设c(w)为(7.14)的RHS的第一项,并将代理人N的风险度量定义为ρN(sn)=λsn/2。
|