第二章基础知识信息论初步课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《第二章基础知识信息论初步课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第二 基础知识 信息论 初步 课件
- 资源描述:
-
1、第二章基础知识信息论初步2023-1-282单元概述单元概述 信源、信道和信宿是通信系统不可缺少的信源、信道和信宿是通信系统不可缺少的三个组成部分。通信的目的是将信源产生的信息三个组成部分。通信的目的是将信源产生的信息传递给信宿,然而,在存在干扰的实际信道中传传递给信宿,然而,在存在干扰的实际信道中传输时,其最高信息传输率受到限制。香农()信输时,其最高信息传输率受到限制。香农()信息论的信道容量公式从理论上阐明了信道容量、息论的信道容量公式从理论上阐明了信道容量、信道带宽和信号信道带宽和信号-噪声功率比三者之间的关系,噪声功率比三者之间的关系,这正是通信系统研究和设计者们所追求的目标和这正是
2、通信系统研究和设计者们所追求的目标和面临的挑战。面临的挑战。2023-1-283单元学习提纲单元学习提纲 (1 1)离散信源和连续信源的统计描述;)离散信源和连续信源的统计描述;(2 2)离散信源的信息量、条件信息量、互信息量和)离散信源的信息量、条件信息量、互信息量和平均信息量(熵)的定义和物理意义;平均信息量(熵)的定义和物理意义;(3 3)连续信源的平均信息量、平均互信息量的定义)连续信源的平均信息量、平均互信息量的定义和物理意义;和物理意义;(4 4)信息量的单位)信息量的单位比特,比特率与波特率的区比特,比特率与波特率的区别;别;(5 5)有扰信道的信息传输过程;)有扰信道的信息传输
3、过程;2023-1-284 (6 6)信道容量的定义,有扰信道的信道容量的定义,有扰信道的最高信息传输速率;最高信息传输速率;(7 7)在掌握上述基本概念基础上,在掌握上述基本概念基础上,要求熟记香农信道容量公式,理解它的物要求熟记香农信道容量公式,理解它的物理意义及其对通信系统研究与发展的指导理意义及其对通信系统研究与发展的指导意义。意义。2023-1-285通信系统需要研究的三个主要问题:(1)(1)信号的特性;信号的特性;(2)(2)系统的特性;系统的特性;(3)(3)信号通过系统传输时,影响信号的信号通过系统传输时,影响信号的 噪声特性。噪声特性。2023-1-286信号与系统部分()
4、()jtHh t ed t()()jth tHed 2023-1-287要搞清楚的三个问题 1 1、输入信号、输出信号、噪声分别具有、输入信号、输出信号、噪声分别具有的特性和表示方式;的特性和表示方式;2 2、系统中输入信号、输出信号、噪声之、系统中输入信号、输出信号、噪声之间的关系。间的关系。3 3、系统具有什么特性,信号的传输才处、系统具有什么特性,信号的传输才处于最佳状态。于最佳状态。2023-1-2882.1 2.1 确知信号分析确知信号分析 1 1、数学上,确知信号可表示为一数学上,确知信号可表示为一个或多个变量的函数。个或多个变量的函数。2 2、不同的信号分类不同的信号分类 确知信
5、号确知信号/随机信号随机信号 周期信号周期信号/非周期信号非周期信号 模拟信号模拟信号/数字信号数字信号 能量信号能量信号/功率信号功率信号2023-1-289 3.3.信号分析方法:信号分析方法:以基本信号之和或积分表示各种复杂以基本信号之和或积分表示各种复杂信号,并对其性质及其对系统的作用进行信号,并对其性质及其对系统的作用进行分析研究。分析研究。频域分析法:正弦信号作为基本信号;频域分析法:正弦信号作为基本信号;时域分析法:冲击函数时域分析法:冲击函数(t)(t)作为基本作为基本信号。信号。2023-1-2810连续周期信号的傅里叶级数连续周期信号的傅里叶级数傅里叶级数傅里叶级数(),0
6、,1,2.cjntnnf tC en 其中离散频谱其中离散频谱/20/21()()cTjntnTC nCft edtT()02,()jnnnCCeTC是 幅 度 谱,是 相 位 谱TtPAnT-nT+例:(t)=220其它/2/2/2/2/2/211TtTTTttPPdtTdtTATAnSaTTooo-jn-jn-jno解:(t)eAee-jn连续的周期信号具有离散频谱连续的周期信号具有离散频谱傅氏级数傅氏级数0/20/21:()()ppTjktTpXjkx t edtT正0tpT)(tx-ktjkejkXtx0)()(:0反0)(0jkXpT20时域信号时域信号频域信号频域信号连续的连续的周
7、期的周期的非周期的非周期的离散的离散的若时域周期为若时域周期为,有频域谱线间隔为有频域谱线间隔为22023-1-28142.连续非周期信号的傅里叶变换()()jtFfted t()()jtftFed 2jtjttPPP t edtAedtA SaA-例:(t)=220其它解:连续的非周期信号具有连续的频谱连续的非周期信号具有连续的频谱傅氏变换傅氏变换dejXtxtj)(21)(:反)(jXtdtetxjXtj)()(:正)(tx时域信号时域信号频域信号频域信号连续的连续的非周期的非周期的非周期的非周期的连续的连续的对称性对称性:时域连续,则频域非周期。时域连续,则频域非周期。反之亦然。反之亦然
8、。序列的傅氏变换序列的傅氏变换nTjnTjenTxeX)()(:正x(nT)T-T0T2Tt0Ts2)(TjjeXeX或-2/2/)(1)(:ssdeeXnTxTjnTjs反时域信号时域信号频域信号频域信号离散的离散的非周期的非周期的周期的周期的连续的连续的TTs2,*频域的周期为时域抽样间隔为4 4、离散的周期信号具有离散频谱、离散的周期信号具有离散频谱 序列的傅式级数()序列的傅式级数()x()(n)FTp1t0T2TNTTpn0002 0 1 2 3)1()1(0NNNN0k)()(0kxexTjk TfTss120NsFTp220 由上述分析可知,要想在时域和频域由上述分析可知,要想在
9、时域和频域都是离散的,那么两域必须是周期的。都是离散的,那么两域必须是周期的。时域信号时域信号频域信号频域信号离散的离散的周期的周期的周期的周期的离散的离散的.2,;2*0TTTTspp频域的周期为时域的离散间隔为为函数,频域的离散间隔时域是周期为2023-1-2822三.能量谱密度和功率谱密度1.1.能量谱密度能量谱密度信号波形的能量信号波形的能量规一化能量(电阻值规一化能量(电阻值1W1W)能量信号:能量为有限的信号能量信号:能量为有限的信号(非周期的时间有限信号)非周期的时间有限信号)EUt i tdt 2Eftd t 21()2jtEft dtftFeddt2023-1-2823当当f
10、(t)f(t)为实函数时为实函数时F(-)F(-)*()()上式上式能量谱密度能量谱密度E()()|2 E()()|2 焦耳焦耳/赫兹赫兹 11()()()22j tFf t edt dFFd 21()()21()2FFdFd 2.2.功率谱密度功率谱密度功率信号:信号在功率信号:信号在-t t+内存在,内存在,具有无穷大能量,但平均功率为有限值。具有无穷大能量,但平均功率为有限值。分析时,先用截短函数将其截为能量信号。分析时,先用截短函数将其截为能量信号。TTtTf(t)-f(t)=220其 它功率谱密度功率谱密度(瓦特(瓦特/赫兹)赫兹)双边功率谱密度定义在(双边功率谱密度定义在(-,+)
11、单边功率谱密度定义在(单边功率谱密度定义在(0 0,+)22222222212TTTTTTTTTEft dtft dtFd 2221TTTPft dtT 222211limlim2TTTTTEPft dtdTT2limTTET 例:试求功率信号为周期性信号时的功率谱密度例:试求功率信号为周期性信号时的功率谱密度解:取截短周期解:取截短周期0 0周期信号的功率周期信号的功率等于各次谐波功率之和。等于各次谐波功率之和。0jkteKk=-用 f(t)=C代 入 0000022222200221lim11TTTTTjktTTPft dtTft dtftedtTTKk=-C0002021()TjktTf
12、t edtTKk=-C2KKKk=-k=-CCC周期信号的功率谱是离散谱。周期信号的功率谱是离散谱。00()()()ftttdtft由 采 样 性 质220()KKkkCkdC 所以2020()12()2KkKkCkdCkd 所以p=20()KkCk 所以W=22023-1-2828自相关函数1.1.定义定义 表明一个信号与该信号延时后的相似程度。表明一个信号与该信号延时后的相似程度。能量信号能量信号()()f t f tdtR=功率信号功率信号 1()()f t f tdtTTR=lim2.2.性质性质实函数的自相关函数是实偶函数,即实函数的自相关函数是实偶函数,即R(-)()R(-)()信
13、号的自相关函数与其能量谱密度信号的自相关函数与其能量谱密度/功率谱密度构成功率谱密度构成 傅氏变换与反变换的关系。傅氏变换与反变换的关系。()()()()()x tf t f tdtf t f tdtR 证:R=2()()()()()()()()()()jjj tf t f tdt edf tf teddtFf t edtFFFE-证:F R=()W同理:F R信号的自相关函数在原点的值等于信号的能量信号的自相关函数在原点的值等于信号的能量/功率。功率。自相关函数的最大值出现在原点,即自相关函数的最大值出现在原点,即 R()R(0)R()R(0)20()ft dtER=/22/210()TTf
14、t dtPTTR=lim周期信号的自相关函数是其功率谱密度函数的傅氏周期信号的自相关函数是其功率谱密度函数的傅氏反变换。反变换。00000000000/2/20/22()/20/22/2/202/22/1()()1()1()TTTjktTkTkTjkTjktTkTkjkTkkkjkTkkRftftd tTftCed tTCeft ed tTCCeCe 例:本周期信号例:本周期信号f(t)的自相关函数的自相关函数2.2 2.2 确定信号通过线性系统确定信号通过线性系统1.1.时域:时域:()()()YHF()()()()()()()()()y tf t h tdh t f tdh tf tf t
15、h t2.2.对于时域相乘系统,譬如采样等,对于时域相乘系统,譬如采样等,()()()1()()()2y tf tp tYFP设输入设输入f(t)()f(t)(),输出输出y(t)(t)y(t)(t)*h(t)()()H()h(t)()()H()1.1.能量信号能量信号2iEF 22222OiEYFHFHHE 2limTiTFWT 2limTOTYWTlimTTTYHF而 2222limlimTOTTiTHFWTFHHWT所以随机过程部分随机信号分析随机信号分析概率及随机变量概率及随机变量概率分布函数概率分布函数分布函数属性分布函数属性 是非降函数是非降函数)()(xXPxFX10)(xFX1
16、 0)(,)(XXFF)(xFXxxpxXxPXxxd2121)()(随机过程部分随机变量的数字特征随机变量的数字特征数学期望数学期望方差方差协方差协方差xxxpXEaXXd)(xxpxgxgEXd)()()(xxpaXaXEXDXXXd22)()()(YXaaXYEXYC)(随机过程部分随机过程和它的统计特性随机过程和它的统计特性随机过程的定义随机过程的定义随机过程是一类随时间作随机变化的过程,它不能用确随机过程是一类随时间作随机变化的过程,它不能用确切的时间函数描述。切的时间函数描述。理解理解1 1:对应不同随机试验结果的时间过程的集合。:对应不同随机试验结果的时间过程的集合。理解理解2
17、2:看作是在时间进程中处于不同时刻的随机变量的:看作是在时间进程中处于不同时刻的随机变量的集合。集合。随机过程的数学期望随机过程的数学期望 方差方差 xtxxptXEtad 1);()()(xtxptaxtatXEtXEtXEtXDtd 12222);()()()()()()()(随机过程部分随机过程的自协方差函数随机过程的自协方差函数随机过程的自相关函数随机过程的自相关函数12112211222121212(,)()()()()()()(,;,)d dXCt tEX ta tX ta txa txa tpx xt tx x)()(),(2121XtXtXEttR212121221dd xxt
展开阅读全文