信息论与编码复习总结
题型:填空、解答、计算
编码:无失真与限失真信源编码定理
编码分为信源编码和信道编码,其中信源编码又分为无失真和限失真
三大定理
:无失真信源编码定理(第一极限定理)(可逆)
信道编码定理(第二极限定理)
限失真信源编码定理(第三极限定理)
(不可逆)
Shannon
(香农)信息论:在噪声环境下,可靠地、安全地、有效地传送信息理论。
通信系统模型方框图
:信道的种类
很多,如电信中常用的架空明线、同轴电缆、波导、光纤、传输电磁波的空间等都是信道。也可以从信道的性质或其传送的信号情况来分类,例如:无干扰信道和有干扰信道、恒参信道和变参信道、离散信道(
Discrete Channel
)和连续信道(
Continuous Channel
)、单用户信道和多用户信道等。
信源的描述:通过概率空间描述
平稳包含齐次,而齐次不包含平稳
(重要,第二章计算题)
定义:若齐次马尔可夫链对一切
i,j存在不依赖于
i的极限,则称其具有遍历性,
pj称为平稳分布(如下)
设有一齐次马尔可夫链,其状态
转移矩阵为
P,其稳态分布为
wj=p(sj)自信息量的特性:
p(xi)=1 ...


雷达卡


京公网安备 11010802022788号







