编码技术PPT课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《编码技术PPT课件.ppt》由用户(三亚风情)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 编码 技术 PPT 课件
- 资源描述:
-
1、现代通信原理现代通信原理第第6 6章章 编码技术编码技术本章学习要求: 了解:单个消息的信息量度量方式 掌握:模拟信源、离散信源发出消息所携带的平均信息量熵的计算公式和方法 掌握:通信的两个主要技术指标有效性和可靠性 掌握:香农公式 了解:源编码和信道编码的概念 了解:改善系统两大指标的措施压缩信源消息中的冗余来提高有效性以及增加冗余码元来提高可靠性 掌握:两种最佳信源编码方法,即霍夫曼编码和香农范诺编码法 了解:通过汉明码和循环码阐明信道的可靠性编译码思路及过程6 61 1 信源编码信源编码 6 61 11 1 信息的度量信息的度量 1.信源的不肯定度就是信源提供的信息量;信源的不肯定度越高
2、,信宿得到的信息量就越大。2.设信源发出某消息 的概率为 ,用 表示消息 提供信息量,则定义: =称 为消息 的自信息量.6112 离散信源的平均信息量熵 1.信源熵-信源输出一个消息所提供的平均信息量,即信源的不肯定度.2.对于二元离散信源,若出现0、1的概率分别为 , ,那么,该信源的熵为: iX)(iP)(ixIiX)(1logiP)(ixI)(ixIiXPP)0(PP1) 1 ()1 (log)1 (log)(222PPPPxH只有当 时, 取最大值,即 。当或 时, 取最小值0。 3.具有N个符号的离散独立信源中,即当N个各符号的出现概率P = 时,该信源的熵 取最大值 = = (b
3、it) 4.结论:在无干扰情况下,收信者从信源输出的每个消息中得到的平均信息量,等于信源每个消息所提供的平均信息量,也等于信源的不肯定度 ;当信道存在于扰时,收信者从收到的每个消息中得到的平均信息量将小于信源每个消息提供的平均信息量,或者说小于信源的不肯定度 。 )(2xH21P)( 1log)(22bitPxH1P0P)(2xHN1)(xHNPPNPPPNi1log1log1log2122)(xHNN2log)(xH)(xH1.当信源输出的消息是连续变化时,或者说信源的输出在任意时间范围内,都可以有无数多个取值时,就称该信源为连续信源。 2.连续信源的熵 = 不是指它实际输出的绝对熵,而是减
4、去一个无穷大项后的相对熵。3.结论:连续信源的熵指的是一个比无穷大大多少的相对量,而不是绝对量;离散信源的熵是一个绝对量,二者是不同的。 )(vH)(vHdvvpvp)(log)(6 61 11 13 3 连续信源的熵连续信源的熵 612 信源编码 1.对于信源和信道都已知的通信系统,其编码根据不同的目的可分为信源编码和信道编码两类。信源编码主要针对信源特性,通过改变信源各个符号之间的概率分布,实现信源与信道间的匹配,使信息传输速率无限接近其最大值信道容量,所以也称之为有效性编码。信道编码则是通过变换各个信码之间的规律或相关性,使其对误码具有一定的自检或自纠能力,进而使系统在一定的传信率下错误
5、概率任意小。这类编码的目的主要是为了提高系统的抗干扰力,针对信道特性而采取的措施,有时也叫抗干扰编码。 2.信源最佳化过程一般按如下两步进行: (1)符号独立化:解除各符号间的相关性; (2)概率均匀化:使各符号出现概率相等。 6121 符号独立化 1.弱记忆信源 在一个信源输出的所有符号序列中,每个符号都只与其相邻的少数几个符号之间统计相关,而和所有其它相距较远的符号相互独立或者其相关性可以忽略不计。 2.强记忆信源 一个信源输出序列的各个符号之间具有很强的相关性,以致于只要知道其中的一部分符号就可以推知其余符号.3.符号独立化 解除信源各符号之间的相关性,使得各个符号的出现彼此独立。4.由
6、于强、弱记忆信源各个符号之间的相关性完全不同,分别采用预测法、延长法(也叫合并法)来完成其各自的符号独立化过程。 6122 概率均匀化一最佳编码 1.概率均匀化的基本思路 有冗余信息的信源在解除了各符号的相关性后,若能够使各个符号出现的概率趋于均匀,就能进一步去掉冗余信息,提高信源的平均信息量。将出现概率大的消息符号编成位数少的短码,而出现概率小的符号编成长码,则编码后各个符号的出现概率就会接近或趋于均匀.2. 香农范诺(ShannonFano)编码法设一个有限离散独立信源,可以输出八个独立的消息A、B、C、D、E、F、G、H,各符号输出的概率空间如下所示: X :A B C D E F G
7、H P(X): 0.01 0.27 0.09 0.14 0.05 0.12 0.03 0.29利用香农一范诺编码法,对该信源进行编码。具体编码方法及步骤如下:首先把各个消息按其出现概率的大小,由大到小重新排列;将这个重排的概率序列分成两组,每组的概率之和尽可能接近或相等。然后,再对每一组又进行同样的分组,仍然使分成的相应两组概率之和尽可能相等,这时就得到四个分组了。如此继续进行下去,直至每个消息都被单独分割出来为止。对每一次划分出的第一组的消息分配一个0,第二组消息则分配 一个1。最后,每个消息的二元编码就由它分得的所有的0、1序列给定。 3.霍夫曼(Huffman)编码法霍夫曼(Huffma
8、n)编码法具体编码方法及步骤如下:将信源各个消息按其出现的概率大小以降序排列;把排列后的两个最小概率对应的消息分成一组,给其中大的(或小的)一个消息分配0,另一个分配1,然后求出它们的概率和,并把这个新得到的概率与其他尚未处理过的概率再次按由大到小的顺序重新排成一个新序列; 反复重复步骤,直到所有的概率都已经被联合处理过为止。从图的左边开始,沿着从这个消息为出发点的路线一直走到最右边,将遇到的二元数字依次由最低写到最高位所得的二元数字序列,就是最佳的二元代码。 62 信道容量与香农公式 621 信道的容量 1.单位时间内传输的信息量就叫做信息传输速率,简称传信率,用符号R表示,它表征了信道的传
9、输能力。2.定义信道容量为信道可能达到的最大传信率,用符号C表示,即对于信源的一切可能概率分布,信道能够传送的最大熵速率就是C,即: = maxyxHxHCmaxR6 62 21 11 1 离散信道的熵速率和信道容量离散信道的熵速率和信道容量 1.1.设一个离散信道每秒可传送设一个离散信道每秒可传送n n个具有个具有K K种不同状态的脉冲信号,且各种不同状态的脉冲信号,且各个符号的出现彼此独立。当信源等概率分布时,其熵为:个符号的出现彼此独立。当信源等概率分布时,其熵为: = = = = =2.2.传信速率传信速率R R: (bit/s)(bit/s)对离散信道,当信源符号等概率分布时,其熵值
10、达到最大,即该信源对离散信道,当信源符号等概率分布时,其熵值达到最大,即该信源的最大熵为的最大熵为 ,故,故n n 就是它的最大传信速率就是它的最大传信速率 ,也称之,也称之为最大熵速率。为最大熵速率。3.3.该信道的信道容量:该信道的信道容量: (bit/s) (bit/s) 4.4.二元离散信源,其信道容量就等于每秒钟传送的消息(符号)数二元离散信源,其信道容量就等于每秒钟传送的消息(符号)数n n。 (bit/sbit/s) )(xH iKiixPxPlog1KKKi1log11K2logKnxnHR2log)(maxRK2logK2logKnRC2maxlognnC2log25.当收信
11、者收到第j个消息时,得知发送端发送的是第i个消息所获得的信息量为: 对全部可能发送的消息进行统计平均,就可以得到接收第j个消息所获得的平均信息量: = - 若对全部可能接收到的信息进行统计平均,则得到收到一个消息的平均信息量: - 先验概率后验概率logI)()/(logiPjiPiiPjiPjiP)()/(log)/(ijiPjiPlog iPjiPlog)(xHICP)/(yxH6 62 21 12 2 连续信道的信息容连续信道的信息容量量 1.对于频带为(0W),平均功率受限于N的连续信源,当其幅度分布为高斯分布时,其熵最大,且为: = (bit/s)信道容量C为:C= = = 2. 信
12、息经有扰信道传送,在接收端收到的平均信息量等于收到的总平均信息量减去由干扰导致的条件平均信息量,即: 用传信率来表示,即3.经有扰信道传送,在接收端收到的有用信息的传输速率等于收到的总信息速率减去噪声信息速率。4.某特定信道的信道容量C就是它的最大熵速率或最大信息速率: W2 xHmaxW2eN2log2W)/(2log2sbiteN xHmaxeN2log2)/()(yxHxHICP)/()()/()(yxHxHyxHxHnRtt)()(nHyHIymaxmax)()(nHyHRCtt5.5.信息论中最著名的香农公式。信息论中最著名的香农公式。 假定信道具有如下特性:假定信道具有如下特性:(
13、1)(1)信道噪声为高斯白噪声,其统计特性符合正态分布,平均功率信道噪声为高斯白噪声,其统计特性符合正态分布,平均功率N = N = n n0 0W W,n n0 0为噪声的单边带功率谱密度为噪声的单边带功率谱密度; ; (2) (2) 信道带宽为信道带宽为W;W; (3) (3) 输入信号平均功率受限,且为输入信号平均功率受限,且为P;P; (4) (4) 信号迭加噪声后仍然服从正态分布,总平均功率为信号迭加噪声后仍然服从正态分布,总平均功率为P+N.P+N.则可以算出该信道的最大传信率为则可以算出该信道的最大传信率为 同样可以算出噪声的传信率为:同样可以算出噪声的传信率为: 则信道容量则信
14、道容量C C为:为: )/)(2log)(2sbitNPeWyH)/(2log)(2sbiteNWnH)/)(1 (log2sbitNPWC6 63 3 信道编码信道编码 1.信道编码的目的在于提高通信的可靠性,通过加入冗余码元来减少误码率。信道编码以降低信息传输速率为代价,用有效性换取可靠性。2.信源编码减少的冗余度是由随机的、无规律的无用消息形成;而信道编码增加的冗余度是特定的、有规律的人为消息,使接收端在接收信息后可以利用它发现错误,进而纠正错误。6 63 31 1 差错控制原理差错控制原理 6311 差错控制编码的基本原理1.信道编码(差错控制编码)的基本原理 用系统的有效性来换取可靠
15、性,在传输的信息码元中附加一定数量的冗余码(通常称之为监督码元),冗余码在整个编码中的位置及代码选择由某一事先确定的规则来决定,收端接收到这样的编码后,根据已知的规则,对接收信息进行检验,发现、纠正和删除错误。6312 差错控制方式 1.常见差错控制编码的工作方式有前向纠错(前向纠错(FECFEC); ;检错重发(检错重发(ARQARQ); ;混合纠错(混合纠错(HECHEC); ;信息反馈(信息反馈(IFIF)。)。 2. 前向纠错FEC 纠错码由发送端直接发送至接收端,作为译码器自动发现和纠正错误的依据。这类系统适于单向通信的场合.3. 检错重发ARQ(又称判决反馈或反馈重发) 消息经过信
16、源编码及经信道编码后,由发射机通过前向信道送至接收端,并同时送至缓存器存储。接收端接收到信息后,进行译码和检错,如果没有发现错误,则将该译码信息输出至收信者;如果检测到错误,则触发重发指令发生器,从反向信道向发送端发出请求重发指令,并通知发端出现错误的码组编号,同时停止输出。发射机收到该ARQ信令后,中断编码器输入,停止编码,把原来存储的码字从出错那组开始,重新通过输出设备经前向信道发出。图图66 66 ARQARQ系系统的工统的工作方式作方式 4.混合纠错HEC 当收端接收到少量错码时,就在接收端直接纠正,即采用前向纠错方案;当错码太多超过其纠错能力时,则采用检错重发方式。 HEC充分利用了
17、前向纠错和检错重发系统的特点,性能较好。但需要双向信道,且系统设备较复杂。5.信息反馈IF 接收端对收到的消息不做任何判断而原样送回发送端,由发端将其和保存在缓存器中的原发信息比较,发现有错误则重发该信息,否则不做任何处理,继续发送后面的信息。6 63 31 13 3 差错控制编码的分类差错控制编码的分类 1.按照编码的不同用途,差错控制码可分为 检错码-只可检测错误; 纠错码-只可纠正错误; 纠删码-同时具有纠错和检错能力,当发现不可纠正的错误时,将发出错误指示或将该错误码元删除。2. 按照监督码元和信息码元之间的不同关系,差错控制码分为 线性码-监督码元和信息码元之间的关系可以用一组线性方
18、程来表示; 非线性码-监督码元和信息码元之间的关系不可以用一组线性方程来表示。3.按照对信息码元的处理方式不同,差错控制码可分为 分组码-监督码元仅由本码组的信息码元确定 卷积码-监督码元由本码组的信息码元与前几个码组的码元按一定规则共同确定。 4.按照码组中信息码元在编码前后的位置是否发生变化,可将差错控制码分为 系统码-编码后信息码元在监督码元的前面,且相互位置不变的编码 非系统码-否则就是非系统码。5.按照编码针对的不同干扰类型,差错控制码可分为 纠(检)随机(或独立)错误码 纠(检)突发错误码 既能纠(检)随机错误同时又能纠(检)突发错误码。6.按照每个码元的取值不同,差错控制码可分为
19、 二进制码 多进制码。6 63 32 2 码重与码距码重与码距 6321 几个基本概念1码长码组或码字中编码码元的总位数为码组长度。2. 码重码组中码元为1的数量,就叫做该码组的重量,简称码重。3码距码距d是码组(字)间差别的定量描述,两个长度相等的码组之间对应位置上码元不同的位数之和就称为码组的距离,简称码距,也叫汉明距离。4最小码距dmin在一个由多个长度相等的码字组成的码组集合中,并不是所有码组之间的码距都相等。称所有码距中的最小值为最小码距,它是衡量一种编码的纠检错能力强弱的主要依据。6 63 32 22 2 纠检错能力与纠检错能力与最小码距最小码距d dminmin的关系的关系 1.
20、若要发现e个错误,必须满足条件 el 2.若要纠正t个错误,则必须满足条件 2tl 3.若要纠正t个错误,且发现e个错误,则必须满足条件 tel 且et mindmindmind6 63 33 3 几种常用的差错控制码几种常用的差错控制码 633 .1 重复码 1.重复码的基本原理 将有用信息按照约定的次数重复发送。只要正确传输的次数多于传错的次数,根据最大似然法则,就可用少数服从多数的原则排除差错,使接收端接收正确信息。 2.逐位重复将信息码元以位为单位,重复传送N次,它产生的 位冗余码元就是该信息位的 次重复。3.分段重复将待传送信息码元以固定的若干位为单位,重复传送N次。 4.重复码的重
21、复次数必须是偶数,加上本身的信息码则发送奇数次,就可以避免出现一半正确一半错误而无法判断的情况。 1N1N6 63 33 32 2 奇偶监督码奇偶监督码 1.基本思想在 位信息码元后面附加一位监督码元,构成一个n位的编码,使码长为n的码组中1的个数保持为奇数或偶数。码组中1的个数保持为奇数的称为奇校验码,保持为偶数的称为偶校验码。2.奇、偶校验码可以发现奇数个错误码元,但不能纠正。它的检错能力较低,编码效率 较高,且随着n的增加而增加。3.奇偶校验码广泛应用于计算机数据如标准ASCII码的传输,一般用高7位(7bit)码元来表示128个ASCII字符,再加上1位奇偶校验码,构成一个8bit的二
22、元码组发送,接收端则根据收到的码组是否满足奇偶校验和的值(偶校验和为0,奇校验和为1),来判断接收的码元是否有错误。 1nnn16 63 33 33 3 水平奇偶监督码水平奇偶监督码 1.水平奇(偶)监督码首先把信息按奇(偶)监督规则编码,再将信息以每个码组一行排成一个阵列,发送时按列的顺序进行。接收时以列的顺序排阵后,再按行进行奇(偶)校验.6334 水平垂直奇偶监督码1.在水平奇(偶)监督码的基础上,对其每一列也进行奇偶校验,就可以得到水平垂直奇(偶)监督码。2.除了能检测到每一行以及每一列中的奇数个错误以外,还能发现长度不大于行数或列数的突发错误。 6335 定比码 1.定比码又称等比码
展开阅读全文