|
[2017],变形梯度的封闭式表达式,DΓyk+1, 和三对角Hessian矩阵,DΓyk+1, 可能现在被证明了。为了总结符号,我们编写了依赖进程asUy(xik,yuk,Z)=:Ui,uk+1=mi,ukZ+cuk,其中mi,uk:=by(xik,yuk)√t和cuk:=yuk+ay(yuk)t、 请注意,对于1,i和j指数≤ i、 j≤ Nx,总是指量化器的码字,用于theeX过程,而u和v索引,用于1≤ u、 五≤ 对于Y过程,请始终参考量化器的码字。畸变的梯度由下式给出D(Γyk+1)yvk+1=2NxXi=1NyXu=1HI{Ui,英国+1∈Rvk+1}(yvk+1- Ui,英国+1)iP(bXk=xik,bYk=YK)=2NxXi=1NyXu=1ZUi,英国+1∈Rvk+1(yvk+1- Ui,uk+1)dP(Z<Z)P(bXk=xik,bYk=yuk),(13)其中Rvk+1是与码字yvk+1相关的区域。要重写高斯随机变量的积分边界,请考虑Ui,uk+1∈ Rvk+1在码字yvk+1的区域边界之间插入Ui,uk+1。这意味着SRV-k+1<Ui,英国+1≤ rv+k+1和rv±k+1:=(yv±1k+1+yvk+1)和r1-k+1=-∞ 和rNy+k+1=∞ 根据定义。因此,Ui,uk+1∈ Rvk+1=ri、u、v-k+1<Z≤ 英国密歇根州的ri、u、v+k+1≥ 0ri、u、v-k+1>Z≥ ri,u,v+k+1对于mi,uk<0,其中ri,u,v±k+1:=rv±k+1- 英国库克米(14)被定义为标准化区域边界。
|