精品信道编码信道编码作用信源编码信道编码信道编码

精品信道编码信道编码作用信源编码信道编码信道编码 第六章 信道编码6.1 信道编码的概念6.2 线性分组码6.3 循环码6.4 卷积码 6.1 信道编码的概念6.1.1 信道编码的作用与分类6.1.2 编码信道6.1.3 检错与纠错原理6.1.4 检错与纠错方式和能力 2 6.1.1 信道编码的作用与分类广义的信道编码是为特定信道传输而进行的传输信号的与实现，常见的信道编码有以下几种: 描述编码:用于描述特定的数据信号，如 ASCII 码、不归 零NRZ码、格雷Gray码 约束编码:用于对信号特性进行约束，如用于减少直流分 量的HDB-3码，用于相位与同步检测的巴克Brarker码 扩频编码:用于扩展信号频谱为近似白噪声谱以满足某些 相关特性，如 m 序列、戈尔德Gold序列 纠错编码:用于检测与纠正信号传输过程中因噪声干扰导 致的差错，如重复码、循环码、BCH 码、卷积码通信的目的是要把对方不知道的信息及时可靠地有时是秘密地传送给对方，纠错编码是提高信号传输可靠性的是主要找施之一;因此本章主要学习纠错编码 3 6.1.1 信道编码的作用与分类对于无噪无损信道只要对信源进行适当的编码，总能以信道容量无差错的传递信息;但是一般信道总会存在噪声和干扰，信息传输会造成损失信道编码的目的是改善通信系统的传输质量。由于实际信道存在噪声干扰，使发送的码字与信道传输后接收的码字之间存在差异，这种差异称为差错一般而言信道噪声、干扰越大，码字产生差错的概率也越大 在有噪信道中怎样才能使消息通过传输后发生的差错最少 差错概率与那些因素有关 有无办法控制 能控制到什么程度 在有噪信道中无差错传输可以达到的最大信息传输率, 4 差错信道随机差错信道:在无记忆信道中，噪声独立随机地影响每个传输码元，因此接收的码元序列中的错误是独立随机出现的;太空信道、卫星信道、同轴电缆、光缆信道以及大多数视距微波接力信道均属于这一类型信道突发差错信道:在有记忆信道中，噪声干扰的影响往往是前后相关的，错误会成串出现;典型的有短波信道、移动通信信道、散射信道以及受大的脉冲干扰和串话影响的明线和电缆信道，甚至还包括在磁记录中，划痕、涂层缺损将造成成串的差错混合差错信道:有些实际信道既有独立随机差错也有突发性成串差错，其差错是这两种差错的综合为降低平均差错率，可先对消息进行编码再送入信道传送，这种为降低平均差错率进行的编码称为信道编码 5 信道编码的作用信道编码的基本思想是根据一定的规律在待发送的信息码中加入一些多余的码元校验码元，以保证传输过程的可靠性在带宽固定的信道中，总的信息传输率是固定的，由于信道编码增加了数据量，其结果只能是以降低传送有用信息码率为代价，所以增加的冗余符号越多，检错和纠错能力就越强，但传输效率越低信道编码的任务是构造出以最小多余度代价换取最大抗干扰性能的“好码”，使系统具有一定的纠错能力和抗干扰能力，降低误码率信源编码与信道编码的不同: 信道编码是为了消除噪声和干扰的影响，以提高传输可靠性 作为主要考虑因素，通过增加冗余码元来实现，一般采用定 长编码方法 信源编码是为改造信源的属性，通过去冗余提高信源的信息 6 含量效率以提高传输效率，通常采用变长编码方法 信道编码的分类按对信息码元的处理方法分 分组码:将 k 个信息码元划分成 1 组，然后由这 k 个码元 按照一定的规则产生 r 个校验码元，从而组成长度为 k r 的码字;在分组码中，校验码元仅校验本码字中的信息码 元;分组码一般用符号 n k 示，并且将分组码的结构 规定为前面k 位为信息位，后面附加 r个校验位 循环码:的特点是，若将其全部码字分成若干组，则 每组中任一码字的码元循环移位后仍是这组的码字 非循环码:任意一个码字中码元循环移位后不一定再 是该码中的码字 卷积码:每 组的校验码元不但与本码组的信息码元有关， 而且还与前面若干组信息码元有关，即不是分组的特点， 而是每个校验码元对它的前后码元都实行校验，前后相连， 因此有时也称为连环码 7 信道编码的分类续按码的结构校验码元与信息码元 按信息码元在编码后是否保持原的关系分: 形式不变 线性码:校验码元与信息码 系统码:信息码元与监督码 元之间是线性关系，可用一 元在分组内有确定位置，编 码后的信息码元保持不变 组线性代数方程联系起来 非系统码:信息位打乱，与 非线性码:校验码元与信息 编码前不同 码元之间是非线性关系 按编、译码理论所用数学工具分按校验码字对差错的处理能力分 代数码:近世代数 检错码:仅能检测误码 几何码:投影几何 纠错码:可纠正误码 算术码:数论和高等算术 纠删码:兼纠错和检错能力 组合码:排列组合和数论按抗干扰模式分 纠随机差错码 纠突发差错码 纠混合差错码 8 纠同步差错码 6.1.2 编码信道 消息 m 信 道 码字 c 接收向量 r 信 道 译出的 编码信道 m1 m2 mk 编码器 译码器 码字 c 2 进制信道:码字 c和接收向量 r 均由二元序列表示的编码信道 c1c2 cn 信道输入: c ci ? 01 转移概率 p r c 描述了 r1 r2 rn 信道输出: r ri ? 01 2 进制信道噪声干扰程度 无记忆2 进制信道:对于任意的 n，均有: pr c ? n1 p ri ci i 无记忆 2 进制对称信道BSC:发生差错 若噪声是白噪声，则 2 进 的概率相同的无记忆2 进制信道，即: 制信道可等效为一个 BSC p1 0 p0 1 pb pb c r 0 0 BSC 的输入/输出关系也可表示为 : pb e r c e mod 2 pb 2 进制硬 9 1 1 其中: P e 1 pb P e 0 pb pb 判决信道 0 pb pb 0 r c e mod 2 c r pb P e 1 pb 1 pb 1 e P 0 pb e 差错图 案:码字 c 的每一码元经过编码信道由于噪声或干扰引 起的差错序列，即: e e1e2 ei e j e j 1 el en 多个 1 出现ei 1:的第位上发生 r i r 从第位开始发生了一 j 了一个随机差错 l j 1 个的突发差错 无记忆编码信道的每一个二元符号输出也可 以用多个比特表 示，理想情况下为实数无穷多个比特，则无记忆二进制信 道又称为 2 进制软判决信道 c r c z z 为均值为的高斯白噪声 0 r z2 1 2 z p z e 2σ z ? ? ? 2π σ 2 10 译码规则 消息 m 信 道 码字 c 接收向量 r 信 道 译出 的码字 c 信道 ? r r r ? m1 m2 m M 编 码 f ? c1 c2 c2n 1 2 2n 译 码 F ? c1 c2 c2n 信道编码实际上就是一个一一变换 f，信道译码则是一个反变 换 F f 1 ，也称为译码函数译码规则，它是从信道输出符 号集r1 r2 r2n 到信道输入符号集c1 c2 c2n 的映射 F r j 1 2 1 2 2n ci i 2n j 即:将接收符号2 元序列 r j 译为某个信道输入符号ci 同一个信道，可以有多种译码规 则;在所有可能的译码规则 中，应选择一个使平均差错率最小者作为译码规则 0 F1 0 0 F2 0 0 pb 0 F1 : F2 : pb 共有4 种 0 F1 1 1 F2 1 pb pb 译码规则 F3 0 1 F4 0 1 1 1 F3 : F4 : 11 0 F3 1 1 F4 1 平均差错率 输入为 ci 译码正 确 F r j ci 输入为除以外的符号序 列 ci 译码错 误 译码正确的概率: pci r j p F r j r j pci ? F 1 p F 译码错误的概率: pei r j r j r j r j r j 平均译码正确概率: wr ? tj 1 pr j p F r j r j p 平均译码错误概率平均差错率: pwe ? tj 1 pr j pei r j 当信道输入是等概率时: 1 p F r j r j ? tj 1 pr j 1 r j pF pci ? tj 1 1 p F r j r j pr j ? tj 1 t s pwe 1 ? pr j F r j 1 ? tj 1 p F r j r j r j 1 1 ? j 1 pF r j pr j F r j t 12 0 0.9 0 C 0 1 求四种译码规则所 0.1 P C 0.4 0.6 对 应的平均差错率 0.1 1 0.9 1 pwe 1 ? tj 1 p F r j r j 解:信道输入概率矩阵、信道转移概率矩阵和联合概率矩阵为: 0.9 0.1 0.36 0.04 PC 0.4 0.6 PRC PRC 0.1 0.9 0.06 0.54 F1 0 0 1 p F pwe 00 p F 11 F1 译码规则 F1 : F1 1 0 1 1 p00 p01 0.36 0.04 0.6 F2 0 0 1 p F pwe 00 p F 11 F2 译码规则 F2 : F2 1 1 1 1 p00 p11 0.36 0.54 0.1 F3 0 1 1 p F pwe 00 p F 11 F3 译码规则 F3 : F3 1 0 1 1 p10 p01 0.06 0.04 0.9 F4 0 1 1 p F pwe 00 p F 11 F3 译码规则 F4 : F4 1 1 1 1 p10 p11 0.06 0.54 0.4 13 显然，译码规则 F2 最好， F3 最差 最佳译码规 则 采用穷举法可以构造给定信道的所有译码规则，通过计算求 出平均差错率最小 的译码规则，这就是最好的译码规则，但 这样做的工作量非常大 最佳译码规则: 使平均差错率达到最小的译码规则 由: pwe ? tj 1 pr j pei r j 1 p F r j r j ? tj 1 pr j 可知:要使 pwe 达到最小，应使每个 pei r j 都最小，或者使 p F r j r j 达到最大，即在后验概率集 pci r j 中选取一个 最大值，它所对应的输入符 号序列 c 就作为 r j 的译码结果，即 c F r j r j ? r1 r2 rt 最大后验概 F : 率译码规则 pc r j ? pci r j ci c ? c1 c2 c s c F r j r j ? r1 r2 rt 最大联合概 F :率译码规则 pc r j ? pci r j ci c ? c1 c2 c s 14 0 0.8 0 C 0 1 0.2 P C 0.3 0.7 求最佳译码规则 0.1 1 0.9 1 pwe 1 ? tj 1 pr j F r j 解:信道 输入概率矩阵、信道转移概率矩阵和联合概率矩阵为: 0.8 0.2 0.24 0.06 PC 0.3 0.7 0.07 0.63 PRC PRC 0.1 0.9最大联合概 F 0 0 1 pwe p00 p11 F F :率译码规则 F 1 1 1 0.24 0.63 0.13 0.8 0.2 PC PRC 0.3 0.7 PR 0.31 0.69 0.1 0.9 0.24 0.06 0.7742 0.0870 PC R 0.31 0.69 0.63 0.31 0.69 0.07 0.2258 0.9130最大后验概 F 0 0 F :率译码规则 F 1 1 15 两种方法得到相同的结果 最大似然译码规则 如果仅知 道信道的统计特性而不知道信源的统计特性时，可 只按最大转移概率来确定译码规 则 c r j ? r1 r2 r2n 最大似然 F : F r j 译码规则 p r j c ? p r j c i ci c ? c1 c2 c2n 最大似然译码规则的平均差错率不一定是最小，因此不一定 是最佳码，但容易找到，只要知道信道的统计特性即可 由于信源输出序列在进入信 道前已进行了信源编码主要作用 之一是使输出符号概率均匀化，经过有效的信源编 码，信源 编码器的输出码元概率分布已经均匀化，因此信道的输入分 布近似为等 概率分布 可以证明当输入等概率分布时，最大似然译码规则与最佳译码 规则是等 价的 16 6.1.3 检错与纠错原理 消息 m m1 m2 mk 信 道 码字 c c1 c2 cn 编码器检纠错的目的在于从信道的输出信号序列 r 判断 r 是否可能是发送的 码字c，或者纠正导致r 不等于 c 的差错由于 BSC 信道的消息 m 和码字 c 均是 2 进制序列，且 c 中含有具有检纠错功能的校验码，因此 c的长度必然大于 m的 长度当消息足够长时，信道的编码效率为: k 描述了信息位在 η n 码字中的比重 对于信道编码而言，消息 m 实质上是信源 X 的一系?信源 编码码元所构成的长为 k 的 2 进制序列 信道编码一般采用等长编码，所有码字的长度均相等;实 17 际 上，码字c 的长度等于消息m 与校验位的长度和 偶奇校验法在消息m 后附加一个 或多个偶校验位 q，从而构成偶校验码字c m1 m2 mk q ，其中 q 满足: 校验方程 m1 m2 mk q mod 2 0显然c 中必含有偶数个“1”，确定偶校验位 q 的编码方程为 q m1 m2 mk mod 2通过校验方程.