第六章-信道编码课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《第六章-信道编码课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第六 信道编码 课件
- 资源描述:
-
1、第六章:有噪信道编码一、信道编码的相关概念二、有噪信道编码定理三、纠错编码基本概念基本概念l信源编码的目的是压缩冗余度,提高信息的传输速率。l信道编码的目的是提高信息传输时的抗干扰能力以增加信息传输的可靠性。香农第二定理指出,当信息传输速率低于信道容量时,通过某种编译码方法,就能使错误概率为任意小。目前已有了许多有效的编译码方法,并形成了一门新的技术纠错编码技术。这里所讲的纠错编码即信道编码,与信源编码一样都是一种编码,但两者的作用是完全不同的。本章内容 有扰离散信道的编码定理 纠错编译码的基本原理与分析方法 线性分组码 卷积码 编码与调制的结合TCM码 运用级联、分集与信息迭代概念的纠错码6
2、.1 信道编码的基本概念 一、差错图样(error pattern)定量地描述信号的差错,收、发码之“差”:差错图样E发码C 收码R(模M)差错类型 差错符号:由符号发生差错引起,也叫信号差错,信号差错概率用误码元率表示 差错比特:由信息比特发生差错引起,也叫信息差错,信息差错概率用误比特率表示 对于二进制传输系统,符号差错等效于比特差错;对于多进制系统,一个符号差错到底对应多少比特差错却难以确定。因为一个符号由多个比特组成。差错图样类型 随机差错:若差错图样上各码位的取值既与前后位置无关又与时间无关,即差错始终以相等的概率独立发生于各码字、各码元、各比特;突发差错:前后相关、成堆出现。突发差
3、错总是以差错码元开头、以差错码元结尾,头尾之间并不是每个码元都错,而是码元差错概率超过了某个额定值。二、纠错码分类 从功能角度:检错码、纠错码 码元与原始信息位的关系:线性码、非线性码 对信息序列的处理方法:分组码、卷积码 差错类型:纠随机差错码、纠突发差错码、介于中间的纠随机/突发差错码。构码理论:代数码、几何码、算术码、组合码等 三、差错控制系统分类 前向纠错(FEC):发端信息经纠错编码后传送,收端通过纠错译码自动纠正传递过程中的差错 反馈重发(ARQ):收端通过检测接收码是否符合编码规律来判断,如判定码组有错,则通过反向信道通知发端重发该码 混合纠错(HEC):前向纠错和反馈重发的结合
4、,发端发送的码兼有检错和纠错两种能力 6.1.2矢量空间与码空间 F表示码元所在的数域,对于二进制码,F代表二元域0,1,设n重有序元素的集合V=Vi,若满足条件:1、V中矢量元素在矢量加运算下构成加群;2、V中矢量元素与数域F元素的标乘封闭在V中;3、分配律、结合律成立,则称集合V是数域F上的n维矢量空间,或称n维线性空间,n维矢量又称n重(n-tuples)。01(1)(,),iiiiji nijVVVVVVF 矢量空间与基底注意:1、n维矢量空间一定包含0矢量2、n维矢量空间中的各矢量可能线性无关,也可能线性相关矢量空间中矢量的关系 对于域F上的若干矢量 线性组合:线性相关:其中任一矢量
5、可表示为其它矢量的线性组合 线性无关或线性独立:一组矢量中的任意一个都不可能用其它矢量的线性组合来代替。12,ikVVVV及及1122,()kiiiVaVa VaVaF11220,(iiiaVa VaVaF且且不不全全是是零零)矢量空间与基底3、一组线性无关的矢量 ,线性组合的集合就构成了一个矢量空间V,这组矢量 就是这个矢量空间的基底。n维矢量空间应包含n个基底 基底不唯一12,nV VV二元域GF(2)上三重矢量空间 以(100)为基底可张成一维三重子空间V1,含21=2 个元素,即 以(010)(001)为基底可张成二维三重子空间V2,含 22=4个元素,即 以(100)(010)(00
6、1)为基底可张成三维三重空间V,含 23=8个元素,V1和V2都是V的子空间。)100(),000(1V)011(),010(),001(),000(2V矢量空间 两个矢量正交:V1V2 0 两个矢量空间正交:某矢量空间中的任意元素与另一矢量空间中的任意元素正交 两个矢量空间的基底正交,则两个矢量空间正交 正交的两个子空间V1、V2互为对偶空间(Dual Space),其中一个空间是另一个空间的零空间(null space,也称零化空间)。码空间 消息消息k长长 (n,k)码字码字n长长 qk 种种 分组编码器分组编码器 qn种种 k维维k重矢量重矢量 n维维n重矢量重矢量 通常通常qn qk
7、,分组编码的任务是,分组编码的任务是要在要在n维维n重矢量空间的重矢量空间的qn种可能组种可能组合中选择其中的合中选择其中的qk个构成一个个构成一个码空间码空间,其元素就是许用码的其元素就是许用码的码集码集。分组编码的任务 选择一个维n重子空间作为码空间。确定由k维k重信息空间到维n重码空间的映射方法。码空间的不同选择方法,以及信息组与码组的不同映射算法,就构成了不同的分组码。6.1.3随机编码 运用概率统计方法在特定信道条件下对编码信号的性能作出统计分析,求出差错概率的上下限边界,其中最优码所能达到的差错概率上界称作随机码界。用这种方法不能得知最优码是如何具体编出来的,却能得知最优码可以好到
8、什么程度,并进而推导出有扰离散信道的编码定理,对指导编码技术具有特别重要的理论价值。Shannon method for proving one baby weighs less than 10 kg 在(N,K)分组编码器中随机选定的码集有qNM种 第m个码集(记作cm)被随机选中的概率是 设与这种选择相对应的条件差错概率是Pe(cm)全部码集的平均差错概率是()(c)NMmPq 11(c)(c)(c)NMNMqqNMeemmemmmPPPqP 必定存在某些码集 某些码集 若 ,就必然存在一批码集 即差错概率趋于零的好码一定存在 11(c)(c)(c)NMNMqqNMeemmemmmPPPq
9、P(c)emePP(c)emePP 0eP 0)(mePc 码集点数M=qK占N维矢量空间总点数qN的比例是F=qK/qN =q-(N-K)当K和N的差值拉大即冗余的空间点数增加时,平均而言码字的分布将变得稀疏,码字间的平均距离将变大,平均差错概率将变小。当F0 即(N-K)时,能否让平均差错概率?Gallager在1965年推导了 的上边界,并证明这个上边界是按指数规律收敛的。0eP eP E(R)为可靠性函数,也叫误差指数 码率:R=(lbM)/N M是可能的信息组合数,M=qK N是每码字的码元数,R表示每码元携带的信息量,单位是每符号比特(bit/symbol))(RNEeeP R在0
10、,R0区间时E(R)R曲线是斜率为-1(-45)的直线,E(R)反比于R;而 当 R=C 时E(R)=0即可靠性为零。E(R)C R 0 R0 -45 E(R)和和R的关系曲线的关系曲线6.1.4信道编码定理 正定理:只要传信率R小于信道容量C,总存在一种信道码(及解码器),可以以所要求的任意小的差错概率实现可靠的通信。逆定理:信道容量C是可靠通信系统传信率R的上边界,如果R C,就不可能有任何一种编码能使差错概率任意小。l信道编码的目标目标:提高通信的可靠性。l信道编码信道编码,就是按照一定的规则给信源编码后的码符号序列增加一些冗余信息,使其变成具有一定数学规律的码符号序列。l信道译码信道译
11、码,就是按与信道编码器相同的数学规律去掉接收到的码符号序列中的冗余符号。l通常来说,增加的冗余符号越多,检错和纠错能力就越强。但是,增加的冗余符号越多,传输效率就越低。信道编码的相关概念信道编码的相关概念 信道编码器:将信源编码后的符号加上冗余符号,提高传输的可靠性。信道编码的相关概念信道编码的相关概念信道编码的相关概念信道编码的相关概念图1 编码信道模型信道编码器信道译码器信道MXY例例1 1:二进制对称信道二进制对称信道 pppp0101信道编码的相关概念信道编码的相关概念0.90.10.10.9ppppPXYppppP(0)(1)P YppP Ypp(1,0)(1|0)(0)(0|1)P
12、 XYpP XYP YpppP XYpp(0)(1|0)(1)(0|1)EPP YP XYP YP XYppppppppppp译码规则1:信道译码器收到符号“0”译为“0”信道译码器收到符号“1”译为“1”正确译码概率0.1,错误译码概率0.9EP 信道编码的相关概念信道编码的相关概念pppp01010.10.90.90.1ppppP译码规则2:信道译码器收到符号“0”译为“1”信道译码器收到符号“1”译为“0”信道编码的相关概念信道编码的相关概念(0)(0|0)(1)(1|1)EPP YP XYP YP XYppppppppppp0.1EP 正确译码概率0.9,错误译码概率1p010.5 二
13、元对称信道的信道容量C定义6.1 设信道的输入符号集为 ,输出符号集为 。若对每一个输出符号都有一个确定的函数 ,使对应于唯一的一个输入符号 ,则称这样的一个函数为译码规则译码规则,记为12,rXx xx12,sYy yyjy()jF yix()1,2,1,2,jiF yxirjs()XYx1x2xry1y2ysp(yj|xi)信道编码的相关概念信道编码的相关概念信道12,rXx xx12,sYy yy共有rs 种译码规则121()rxxF yx12()srxxF yx信道编码的相关概念信道编码的相关概念0)1(0)0(FF1)1(0)0(FF0)1(1)0(FF1)1(1)0(FF224sr
14、 译码规则例:pppp0101信道编码的相关概念信道编码的相关概念4.03.03.05.03.02.02.03.05.0P例2:设一个信道的信道矩阵为 ,根据此信道矩阵,设计译码规则。解:11()F yx33()F yx22()F yx译码规则A4.03.03.05.03.02.02.03.05.0P4.03.03.05.03.02.02.03.05.0P11()F yx32()F yx23()F yx译码规则B信道编码的相关概念信道编码的相关概念 对于有r个输入符号,s个输出符号的信道,总共可以设计出 种译码规则,到底哪一种译码规则最好哪一种译码规则最好?依据什么标准什么标准来选择译码规则?
15、问题:sr信道编码的相关概念信道编码的相关概念l设译码规则为 ()jiF yx当输入符号是xi时,译码正确当输入符号为除xi以外的(r-1)种符号时,译码错误正确译码的概率:()|(|)jjijp F yyp xy 错误译码的概率:|)(1)|(1)|(jjjijyyFpyxpyep信道编码的相关概念信道编码的相关概念l 平均正确译码概率:sjjjjEyyFpypP1|)()(l 平均错误译码概率:11()(|)()1()|ssEjjjjjjjPp yp e yp yp F yy信道编码的相关概念信道编码的相关概念 为提高规则通信的可靠性,所采用的译码应当使平均错误译码概率最小。-最大后验概率
16、译码规则最大后验概率译码规则 最常用的译码规则,包括:极大似然译码规则极大似然译码规则 最大后验概率译码规则最大后验概率译码规则信道编码的相关概念信道编码的相关概念(1 1)最大后验概率译码规则最大后验概率译码规则1()1()|sEjjjjPp yp F yy 已知:()0jp y 当求和项中的每一项都达到最小值时,就最小。EP1()|jjp F yy要最小。()|jjp F yy要最大。信道编码的相关概念信道编码的相关概念定义6.2 令 ,而 应满足条件 riyxpyxpjij,.,2,1)|()|(*()jF yx*x*xX称满足上述条件的译码函数对应的译码规则为最大后验最大后验概率译码规
17、则概率译码规则。minEEPP 信道编码的相关概念信道编码的相关概念11121121222212(|)(|)(|)(|)(|)(|)(|)(|)(|)ssrrrsrp xyp xyp xyxp xyp xyp xyxp xyp xyp xyxQsjijijsjjjEyxpypyxpypP1*1*min)|()()|(1)(信道编码的相关概念信道编码的相关概念1y2ysy11121121222212()()()()()()()()()ssXYrrrsrp x yp x yp x yxp x yp x yp x yxp x yp x yp x yxP1y2ysy信道编码的相关概念信道编码的相关概念
18、*min11*()1(|)()(|)ssEjjjijjjiPp yp xyp yp xy1*()sijjip x y问题:最大后验概率 通常是未知的,使用不方便。我们能否推导出更便于使用的译码规则?(|)ijp xy信道编码的相关概念信道编码的相关概念riyxpyxpjij,.,2,1)|()|()()|()()()|()(jijijjypxypxpypxypxp)|()()|()(ijijxypxpxypxp当输入符号等概分布时当输入符号等概分布时(2 2)极大似然译码规则极大似然译码规则)|()|(ijjxypxyp信道编码的相关概念信道编码的相关概念 1)当输入符号等概分布时,采用极大似
19、然译码准则等价于最大后验概率准则。2)当输入符号不等概分布或先验概率未知时,采用极大似然译码准则不一定使 最小。l 关于极大似然译码准则极大似然译码准则:EP信道编码的相关概念信道编码的相关概念当输入符号等概分布时当输入符号等概分布时)|()|()|()|()|()|()|()|()|(21222211121121rsrrssrxypxypxypxypxypxypxypxypxypxxxP1y2ysy(1)rs 项信道编码的相关概念信道编码的相关概念*min11*()1(|)()(|)ssEjjjijjjiPp yp xyp yp xy1*1*()()(|)ssijijijijip x yp
20、x p yx1*1(|)sjijip yxr例3:设信道矩阵为 ,且输入符号等概分布,即 ,求译码规则和平均错误译码概率。0.50.30.20.30.30.40.20.30.5P1231()()()3p xp xp x信道编码的相关概念信道编码的相关概念解:因为输入符号为等概分布,所以由最大似然译码规则可得0.50.30.20.30.30.40.20.30.5P11()F yx33()F yx22()F yx译码规则1(0.30.2)(0.30.3)(0.20.4)0.573EP 信道编码的相关概念信道编码的相关概念min1*1(|)sEjijiPp yxr4.03.03.05.03.02.0
21、2.03.05.0P4.03.03.05.03.02.02.03.05.0P11()F yx33()F yx22()F yx译码规则A4.03.03.05.03.02.02.03.05.0P译码规则B233211)()()(xyFxyFxyF例 6.3 假设输入等概,求以下两种译码规则的平均错误译码概率。信道编码的相关概念信道编码的相关概念4.03.03.05.03.02.02.03.05.0P4.03.03.05.03.02.02.03.05.0P信道编码的相关概念信道编码的相关概念1(0.20.3)(0.30.3)(0.20.5)0.63EP 1(0.20.3)(0.30.3)(0.20.
22、4)0.5673EP 4.03.03.05.03.02.02.03.05.0P4.03.03.05.03.02.02.03.05.0P信道编码的相关概念信道编码的相关概念111(0.30.2)(0.20.5)(0.30.3)0.6442EP 12311()(),()42p xp xp x如果111(0.30.2)(0.20.3)(0.30.4)0.6442EP 1*1*()()(|)ssEijijijijiPp x yp x p yx4.03.03.05.03.02.02.03.05.0P0.1250.0750.050.050.0750.1250.150.150.2XYP信道编码的相关概念信道
23、编码的相关概念1*()(0.1250.05)(0.0750.075)(0.050.125)0.5sEijjiPp x y12311()(),()42p xp xp x如果l 定理定理6.1 平均错误概率与信道疑义度H(X|Y)满足不等式:(|)()log(1)EEH X YH PPr信道编码的相关概念信道编码的相关概念010199.0p01.0pppppp1010P1)1(0)0(FF*1(|)EjiYXxPp yxr)(21pp210信道编码的相关概念信道编码的相关概念000000001010011100101110111二元对称信道的三次扩展信道1113222222332222223000
24、111pp pp pppp pppppppppppp pppp pp ppP000001 010011 100 101110 111pp823NrM=2328Ns信道编码的相关概念信道编码的相关概念322222233222222321ppppppppppppppppppppppppppppxxP12(000)(001)(010)(100)000(011)(101)(110)(111)111FFFFFFFFxx由最大似然译码规则,可得自动纠正一位错233 ppp 4103 sjiijEpMP1*min)|(1xy1y2y8y3y4y5y6y7y信道编码的相关概念信道编码的相关概念l 在输入符号集
25、(M个符号)等概的条件下,每个符号平均携带的最大信息量是 。l 当用n个码元符号来传输M个信源符号时,每个码符号携带的平均信息量,即信道信息传输率为:logMlog/MRn比特 码元符号l 不重复编码时(n=1),l 重复编码时(n=3),1/R(比特 码元符号)1/3R (比特 码元符号)信道编码的相关概念信道编码的相关概念 n=1,R=1,n=3,R=1/3,n=5,R=1/5,n=7,R=1/7,n=9,R=1/9,n=11,R=1/11,增加重复次数n,可使 减小很多,但信息传输率R也减少很多。210EP43 10EP51 10EP 74 10EP81 10EP 105 10EPEP信
展开阅读全文