1、第第3章信道与信道容量章信道与信道容量q信道的基本概念信道的基本概念q离散单个符号信道及其容量离散单个符号信道及其容量q离散序列信道及其容量离散序列信道及其容量q连续信道及其容量连续信道及其容量信道信道 信道信道：信息传输的通道信息传输的通道 在通信中在通信中,信道按其信道按其物理组成物理组成常被分成微波信常被分成微波信道、光纤信道、电缆信道等。信号在这些信道、光纤信道、电缆信道等。信号在这些信道中传输的过程遵循不同的物理规律道中传输的过程遵循不同的物理规律,通信技通信技术必须研究信号在这些信道中传输时的特性术必须研究信号在这些信道中传输时的特性 信息论不研究信号在信道中传输的物理过程信息论不
2、研究信号在信道中传输的物理过程,并假定信道的传输特性已知并假定信道的传输特性已知,这样信息论就可这样信息论就可以抽象地将信道用下图所示的模型来描述以抽象地将信道用下图所示的模型来描述。信信 道道输入量X(随机过程)输出量Y(随机过程)p(Y|X)3.1信道的基本概念信道的基本概念3.1.1 信道分类信道分类1.用户数量：单用户、多用户用户数量：单用户、多用户2.输入端和输出端关系：无反馈、有反馈输入端和输出端关系：无反馈、有反馈3.信道参数与时间的关系：固参、时变参信道参数与时间的关系：固参、时变参4.噪声种类：噪声种类：随机差错、突发差错随机差错、突发差错5.输入输出特点：离散、连续、半离散
3、半连续、输入输出特点：离散、连续、半离散半连续、波形信道波形信道 5.按输入按输入/输出信号在输出信号在和和上的上的取值取值:离散信道离散信道：输入和输出的随机序列取值都是输入和输出的随机序列取值都是离散离散的信道的信道 连续信道连续信道：输入和输出的随机序列取值在输入和输出的随机序列取值在幅度上连续幅度上连续、时间上离散的时间上离散的信道信道 半离散半离散(半连续半连续)信道信道：输入变量取值输入变量取值离散离散而输出变量取值而输出变量取值连续连续 输入变量取值输入变量取值连续连续而输出变量取值而输出变量取值离散离散 波形信道波形信道：信道的输入和输出在信道的输入和输出在时间上和幅度上均连续
4、时间上和幅度上均连续的随机信号。的随机信号。6.按输入按输入/输出之间关系的输出之间关系的来划分：来划分：无记忆信道无记忆信道：信道的输出只与信道该时刻的输入有关信道的输出只与信道该时刻的输入有关,而与其而与其他时刻的输入无关他时刻的输入无关 有记忆信道有记忆信道：信道的输出不但与信道现时的输入有关而且还信道的输出不但与信道现时的输入有关而且还与以前时刻的输入有关与以前时刻的输入有关 7.按输入输出信号之间的关系是否是确定关系按输入输出信号之间的关系是否是确定关系:无干扰信道无干扰信道：输入输入/输出符号之间有确定的一一对应关系输出符号之间有确定的一一对应关系 有干扰信道有干扰信道：输入输入/
5、输出之间关系是一种输出之间关系是一种的关系的关系 输入输入/输出的输出的统计关系统计关系：离散无记忆信道：离散无记忆信道：用用条件概率矩阵条件概率矩阵来描述。来描述。离散有记忆信道：离散有记忆信道：可像有记忆信源中那样引入可像有记忆信源中那样引入状态状态的概念。的概念。设信道的输入设信道的输入X=(X1,X2 Xi,),Xi a1 an 输出输出Y=(Y1,Y2 Yj,),Yj b1 bm 信道转移概率矩阵信道转移概率矩阵p(Y|X)：描述输入描述输入/输出的统计依赖关系输出的统计依赖关系,反映信道统计关反映信道统计关系系信信 道道XYp(Y|X)3.1.2 信道参数信道参数（1）无干扰）无干
6、扰(无噪声无噪声)信道信道 无干扰无干扰(无噪声无噪声)信道信道 信道的输出信号信道的输出信号Y与输入信号与输入信号X之间有确定之间有确定的关系的关系Y=f(X),已知已知X后就确知后就确知Y 转移概率转移概率:1,YX(Y|X)0,YXf()pf()（2）有干扰无记忆信道）有干扰无记忆信道 有干扰无记忆信道有干扰无记忆信道 信道的输出信号信道的输出信号Y与输入信号与输入信号X之间没有确之间没有确定的关系定的关系,但转移概率满足但转移概率满足:1122(Y|X)(|)(|)(|)LLpp yxp yxp yx 有干扰无记忆信道可分为有干扰无记忆信道可分为:二进制离散信道二进制离散信道 离散无记
7、忆信道离散无记忆信道 离散输入、连续输出信道离散输入、连续输出信道 波形信道波形信道10 二进制离散信道二进制离散信道BSC 输入符号输入符号X取值取值0,1；输出符号输出符号Y取值取值0,1 很重要的一种特殊信道很重要的一种特殊信道 信道转移概率：信道转移概率：p(0|0)=1p p(1|1)=1p p(0|1)=p p(1|0)=p0101pp1-p1-p101110ppppP无错误传输的概率传输发生错误的概率 1)二进制对称信道（二进制对称信道（BSC）2)离散无记忆信道（离散无记忆信道（DMC）nmnnmmppppppppp212222111211P b2 a2 a1 an bm b1
8、 P:已知已知X,信道输出信道输出Y表现出来的统计特性表现出来的统计特性 完全描述了信道的完全描述了信道的统计特性统计特性,其中有些概率是信其中有些概率是信道干扰引起的错误概率道干扰引起的错误概率,有些是正确传输的概率有些是正确传输的概率niabpmjij,2,11)|(11211121121222212(|)(|)(|)(|)(|)(|)(|)(|)(|)mmmnnnmnbbba pb apb apb aa pb apb apb aPa pb apb apb a 转移概率矩阵 3)离散输入、连续输出信道离散输入、连续输出信道222/)(21)/(iayiYeayp+X Y G 假设信道输入符
9、号选自一个有限的、离散的输入字符假设信道输入符号选自一个有限的、离散的输入字符集集X=a1，a2，an，而信道（检测器）输出未经量，而信道（检测器）输出未经量化（化（m），这时的译码器输人可以是实轴上的任意），这时的译码器输人可以是实轴上的任意值，即值，即y=-，。这样的信道模型为。这样的信道模型为离散时间无记离散时间无记忆信道。忆信道。加性高斯白噪声信道（加性高斯白噪声信道（AWGN）4)波形信道波形信道+x(t)y(t)n(t)()(),()(),()/(),/,()/(,2121npxpnxpxpyxpxypxxxyyypxypnxyxxyxYLLYY15（3）有干扰有记忆信道（略）有干
10、扰有记忆信道（略）说明：说明：设计和分析离散信道编、解码器的性能，从设计和分析离散信道编、解码器的性能，从工程角度出发，最常用的是工程角度出发，最常用的是DMC信道模型或信道模型或其简化形式其简化形式BSC信道模型；信道模型；若分析性能的理论极限，则多选用离散输入、若分析性能的理论极限，则多选用离散输入、连续输出信道模型；连续输出信道模型；如果我们是想要设计和分析数字调制器和解如果我们是想要设计和分析数字调制器和解调器的性能，则可采用波形信道模型。调器的性能，则可采用波形信道模型。本书的主题是编、解码，因此主要使用本书的主题是编、解码，因此主要使用DMC信道模型信道模型。16 我们研究信道的目
11、的是要讨论信道中平均每个符我们研究信道的目的是要讨论信道中平均每个符号所能传送的信息量号所能传送的信息量,即信道的即信道的信息传输率信息传输率R 平均互信息平均互信息I(X;Y)：接收到符号接收到符号Y后平均每个符号获得的关于后平均每个符号获得的关于X的信的信息量。息量。niijijijijijijxypxpypypxypxypxpYXI1)|()()()()|(log)|()();(信道的信息传输率就是平均互信息信道的信息传输率就是平均互信息 3.1.3 信道容量的定义信道容量的定义17 信道容量信道容量C：最大的信息传输率最大的信息传输率);(max)(YXICiap 单位时间的信道容量单
12、位时间的信道容量：);(max1)(YXITCiap 信息传输率信息传输率 R=I(X;Y)=H(X)H(X/Y)比特比特/符号符号 信息传输速率信息传输速率 信道在单位时间内平均传输的信息量定义为信道在单位时间内平均传输的信息量定义为 Rt=I(X;Y)/t 比特比特/秒秒3.2离散单个符号信道及其容量离散单个符号信道及其容量 信息传输率信息传输率 信道在单位时间内平均传输的信息量定信道在单位时间内平均传输的信息量定义为信息传输速率义为信息传输速率 R=I(X;Y)=H(X)H(X/Y)比特比特/符号符号 Rt=I(X;Y)/t 比特比特/秒秒 信道容量信道容量 比特比特/符号（符号（bit
13、s/symbol）);(max)(YXICiap3.2离散单个符号信道及其容量离散单个符号信道及其容量 3.2.1 无干扰离散信道的信道容量无干扰离散信道的信道容量X Y X Y X Y 1 1 1 1 1 1 1 1 1 1 1 1 1(a)无 噪 无 损 信 道 (b)无 噪 有 损 信 道 (c)有 噪 无 损 信 道部 分 理 想 化 的 无 干 扰 离 散 信 道3.2.1 3.2.1 无干扰离散信道无干扰离散信道 设信道的输入设信道的输入XA=a1 an,输出输出YB=b1 bm信道信道 输入和输出符号之间有确定的一一对应关系输入和输出符号之间有确定的一一对应关系)3,2,1,(1
14、0)|()|(jijijibapabpjiijX100010001P111a1 b1a2 b2a3 b3Y无干扰离散信道 无噪无损信道无噪无损信道X0001001001001000Pa1 b1a2 b2an-1 bn-1an bn11Y无干扰离散信道信道 由)|(log),()|(ijijjixypyxpXYH)|(log),()|(jiijjiyxpyxpYXH 计算得：噪声熵H(Y|X)=0 疑义度H(X|Y)=0(,)()()I XYH XHY 2()max(;)logip aCI X Yn无干扰离散信道信道 多个输入变成一个输出(nm)X1010010101Pa1 Ya2 b1a3a4
15、 b2a51111101)|(01)|(或或jijibapabp输出Y是输入X的确定函数,但不是一一对应,而是多一对应关系。无干扰离散信道信道 多个输入变成一个输出(nm)噪声熵H(Y|X)0 疑义度H(X|Y)0(,)()()I X YHYH X ()max(;)max()ip aCI X YH Y 01)|(01)|(或或jijibapabp信道中接收到符号Y后不能完全消除对X的不确定性,信息有损失。但输出端Y的平均不确定性因噪声熵等于零而没有增加。无干扰离散信道信道 一个输入对应多个输出(nm)X b1a1 b2 b3a2 b4 b51/31/31/31/43/43/1)|(3/1)|(
16、3/1)|(131211abpabpabp 计算得计算得1)|(1)|(1)|(312111bapbapbap1)|(1)|(5242bapbap 同理同理111003331300044P 由由Y无干扰离散信道信道 一个输入对应多个输出(nm)接收到符号Y后,对发送的X符号是完全确定的。噪声熵H(Y|X)0 疑义度H(X|Y)=0(,)()()I X YH XHY ()max(;)max()ip aCI X YH X 无干扰离散信道无干扰离散信道信道：信道：X、Y一一对应一一对应2()max(;)max()max()logip aCI X YH XH Yn 信道：信道：多个输入变成一个输出多个
17、输入变成一个输出2()max(;)max()logip aCI X YH Ym 信道：信道：一个输入对应多个输出一个输入对应多个输出2()max(;)max()logip aCI X YH Xn 3.2.2 对称DMC信道 对称离散信道：对称离散信道：对称性对称性:每一行都是由同一符号集每一行都是由同一符号集q1,q2,qm的诸的诸元素不同排列组成元素不同排列组成输入对称输入对称 每一列都是由每一列都是由p1,p2,pn符号集的诸元素符号集的诸元素不同排列组成不同排列组成输出对称输出对称1111111362111336611116231116633632PP 满足对称满足对称性性,所对应所对应
18、的信道是的信道是对称离散对称离散信道。信道。对称DMC信道 信道矩阵信道矩阵 1 1 1 10.7 0.2 0.13 3 6 61 1 1 10.2 0.1 0.76 3 6 3PP 不具有对称性不具有对称性,因而所对应的信道不是对因而所对应的信道不是对称离散信道。称离散信道。3.2.2 对称DMC信道 输入对称输入对称输出对称输出对称无关与iabpabpjijij)/(log)/()|()|(log)|()|(log)|()()/(ijijijjijijiiaYHabpabpabpabpapXYHiijiijijabpnabpapbp)/(1)/()()(3.2.2 3.2.2 对称对称DM
19、CDMC信道信道 对称信道容量对称信道容量)/()(max)|()(max)|()(max);(max)()()()(XYHYHXYHYHYXHXHYXICiiiiapapapapmjijijippmaYHmC1loglog)|(log32例例 某对称离散信道的信道矩阵为某对称离散信道的信道矩阵为 3131616161613131P符号/082.061log6161log6131log3131log312)61,61,31,31(4logbitHC信道容量为 3.2.2 3.2.2 对称对称DMCDMC信道信道 例例.求信道容量求信道容量111111111nnnnnnP 信道输入符号和输出符号
20、的个数相同，都为信道输入符号和输出符号的个数相同，都为n n，且正确的，且正确的传输概率为传输概率为1 1，错误概率，错误概率 被对称地均分给被对称地均分给n-1n-1个输出符个输出符号，此信道称为号，此信道称为强对称信道或均匀信道强对称信道或均匀信道，是对称离散信，是对称离散信道的一个特例道的一个特例)1,1,1(lognnHnC C1 11(,)02 2CH 信道无噪声信道无噪声 当当=0,C=10=1bit=H(X)当当=1/2,信道强噪声信道强噪声BSC信道容量 BSC信道容量信道容量C1H（）35串联信道 例例 设有两个离散设有两个离散BSC信道信道,串接如图串接如图,两个两个BSC
21、信道的转移矩阵为信道的转移矩阵为:ppppPP1121X00ZY111-p1-p1-pp 串联信道的转移矩阵为串联信道的转移矩阵为:222221)1()1(2)1(2)1(1111ppppppppppppppppPPP1-pp36串联信道X00ZY11 求得:)1(21);()(1);(ppHZXIpHYXI 在实际通信系统中在实际通信系统中,信号往往要通过几个环节的信号往往要通过几个环节的传输传输,或多步的处理或多步的处理,这些传输或处理都可看成是这些传输或处理都可看成是信道信道,它们串接成一个它们串接成一个串联信道串联信道。pp1-p1-p1-p1-p串联信道 由由信道2信道m信道1()(
22、;)(;)(;)H XI X YI X ZI X W (1,2)max(;)CI X Z(1,2,3)max(;)CI X W 可以看出可以看出,串接的信道越多串接的信道越多,其信道容量可能会越小其信道容量可能会越小,当串接信道数无限大时当串接信道数无限大时,信道容量可能会趋于信道容量可能会趋于0XYZ383.2.3 准对称准对称DMC信道信道 准对称准对称DMC信道信道 如果转移概率矩阵如果转移概率矩阵P是是输入对称而输出不对称输入对称而输出不对称，即，即转移概率矩阵转移概率矩阵P的每一行都包含同样的元素而各列的每一行都包含同样的元素而各列的元素可以不同，则称该信道是的元素可以不同，则称该信
23、道是准对称准对称DMC信道信道3/16/13/16/16/16/13/13/11P7.01.02.02.01.07.02P393.2.33.2.3 准对称准对称DMC信道信道 准对称信道准对称信道 将信道矩阵将信道矩阵P的列划分成若干个互不相交的子集的列划分成若干个互不相交的子集mk,由由mk为列组成的矩阵为列组成的矩阵Pk是是对称矩阵对称矩阵。616131313161613131613161616131311P 它们满定对称性它们满定对称性,所以所以P1所对应的信道为准对所对应的信道为准对称信道。称信道。40准对称信道的信道容量 准对称信道准对称信道1.01.07.02.02.07.07.0
24、1.01.02.02.07.02P),(log21mpppHmC 准对称信道容量准对称信道容量41准对称信道的信道容量 当输入分布为当输入分布为等概率等概率时：时：rkkkmMNpppHnC121log),(log 其中其中n是输入符号集的个数是输入符号集的个数,(p1,p2,pm)为准对为准对称信道矩阵中的称信道矩阵中的行行元素。元素。设矩阵可划分成设矩阵可划分成r个互不相交的子集。个互不相交的子集。Nk是第是第k个子矩阵个子矩阵Pk中中行行元素之和元素之和,Mk是第是第k个子矩阵个子矩阵Pk中中列列元素之和。元素之和。),2,1()|()|(rkabpMabpNiijkjijk 例：设信道
25、传递矩阵为例：设信道传递矩阵为 1111248811114288P 111241142P 211881188P 121log(,)log1 1 1 13311log2(,)(loglog)2 4 8 844441 1.75 0.811 0.061/rmkkkCn H p ppNMH （比比特特 信信道道符符）计算得：N1=3/4,N2=1/4,M1=3/4,M2=1/4 将它分成将它分成 3.2.3 准对称准对称DMC信道信道 例例2.05.03.02.03.05.0P2.02.0,5.03.03.05.0符号/036.04.0log2.08.0log8.0)2.0,3.0,5.0(2log2
26、22bitHC3.2.3 准对称准对称DMC信道信道 例例.求信道容量求信道容量3/16/13/16/16/16/13/13/11P符号/041.0)6/16/1(log6/1)3/13/1(log3/1)6/13/1(log)6/13/1()6/1,6/1,3/1,3/1(2log2222bitHC3.2.4 一般一般DMC信道信道 一般一般DMC信道信道 一般离散信道的平均互信息一般离散信道的平均互信息I(X;Y)达到极大值的充分达到极大值的充分和必要条件是输入概率和必要条件是输入概率p(ai)必须满足必须满足:I(ai;Y)=C 对于所有满足对于所有满足p(ai)0条件的条件的I I(a
27、i;Y)C 对于所有满足对于所有满足p(ai)=0条件的条件的I当信道平均互信息达到信道容量时，输入符号概当信道平均互信息达到信道容量时，输入符号概率集率集p(ai)中每一个符号中每一个符号ai对输出端对输出端Y提供相同提供相同的互信息，只是概率为零的符号除外的互信息，只是概率为零的符号除外.463.3 3.3 离散序列信道及容量离散序列信道及容量 设信道的输入设信道的输入X=(X1,X2 Xi,),Xi a1 an 输出输出Y=(Y1,Y2 Yj,),Yj b1 bm信 道XYp(Y|X)对于对于无记忆离散序列无记忆离散序列信道信道,其其信道转移概率信道转移概率为为)|(),|,()|(11
28、1llLlLLXYpXXYYppXY 仅与当前输入有关。仅与当前输入有关。若若信道是平稳的信道是平稳的)|()|(xyppLXY47：若信道的输入和输出分别是若信道的输入和输出分别是L长序列长序列X和和Y,且且信道信道是是无记忆无记忆的的,亦即信道传递概率为亦即信道传递概率为)|()|(1llLlXYppXY 则存在则存在);();(1llLlYXII：若信道的输入和输出分别是若信道的输入和输出分别是L长序列长序列X和和Y,且且信源信源是是无记忆无记忆的的,亦即亦即LllXpp1)()(X);();(1llLlYXII 则存在则存在 48 若若信源信源与与信道信道都是都是无记忆无记忆的的);(
29、);(1llLlYXII L次扩展信道次扩展信道的信道容量的信道容量 LlLlllPPLlCYXIICXX11)();(max);(max 当信道平稳时当信道平稳时:1LCCL 一般情况下一般情况下:1);(LCI扩展信道扩展信道:如果对离散单符号信道进行如果对离散单符号信道进行L次扩次扩展，就形成了展，就形成了L次离散无记忆序列信道次离散无记忆序列信道493.3离散序列信道及其容量离散序列信道及其容量 1 1 1X00,01,10,11，Y00,01,10,11，二次扩展无记忆信道的序列转移概率p(00/00)=p(0/0)p(0/0)=(1-p)2，p(01/00)=p(0/0)p(1/0
30、)=p(1-p)，p(10/00)=p(1/0)p(0/0)=p(1-p)，p(11/00)=p(1/0)p(1/0)=p2同理可得其他转移概率0010110100011011 例例 .BSC信道二次扩展信道二次扩展503.3离散序列信道及其容量离散序列信道及其容量 1 1 1 122222222)1()1()1()1()1()1()1()1()1()1()1()1(ppppppppppppppppppppppppP),1(),1(,)1(4log2222ppppppHC若若p p0.10.1，则，则C C2 22 20.9380.9381.0621.062比特比特/序列序列 C1=0.531
31、bit/C1=0.531bit/序序列 转移概率矩阵转移概率矩阵51独立并联信道独立并联信道 设有设有L个信道个信道,它们的输入、输出分别是：它们的输入、输出分别是：X1,X2XL；Y1,Y2YLLllLLCCCCIC121,2,1)Y;X(max信信 道道信信 道道信信 道道p(Y1|X1)p(YL|XL)p(Y2|X2)每一个信道的输出每一个信道的输出Yl只与本只与本信道的输入信道的输入Xl有关有关,与其他信与其他信道的输入、输出都无关。道的输入、输出都无关。独立并联信道的信道容量独立并联信道的信道容量 X1X2XLY1Y2YL523.43.4 连续信道及其容量连续信道及其容量 连续信道的
32、容量不容易计算。连续信道的容量不容易计算。当信道为加性连续信道时当信道为加性连续信道时,情况简单一些。情况简单一些。设信道的输入和输出信号是随机过程设信道的输入和输出信号是随机过程x(t)和和y(t)y(t)=x(t)+n(t)n(t)：信道的加性高斯白噪声：信道的加性高斯白噪声 一个受加性高斯白噪声干扰的带限波形信道的一个受加性高斯白噪声干扰的带限波形信道的容量容量,由香农由香农(1948)正式定义：正式定义：),(max)(YXICxp信信 道道n(t)x(t)y(t)53 高斯白噪声加性信道单位时间的信道容量高斯白噪声加性信道单位时间的信道容量)1log()1log();(1maxlim
33、0)(SNRWWNPWYXITCsxpTti这就是著名的香农公式 限时限频限功率加性高斯白噪声信道限时限频限功率加性高斯白噪声信道 3.4 连续信道及其容量连续信道及其容量 例例 电话信道的带宽为电话信道的带宽为3.3kHz，若信噪功率，若信噪功率比为比为20dB，即，即SNR100，求信道的容量，求信道的容量 sKbitSNRWCt/22)1001log(3.3)1log(55例例 一个平均功率受限制的连续信道，其通频带一个平均功率受限制的连续信道，其通频带为为 1MHZ1MHZ，信道上存在白色高斯噪声。，信道上存在白色高斯噪声。（1 1）已知信道上的信号与噪声的平均功率比值为）已知信道上的
34、信号与噪声的平均功率比值为1010，求该信道的信道容量；，求该信道的信道容量；（2 2）信道上的信号与噪声的平均功率比值降至）信道上的信号与噪声的平均功率比值降至5 5，要达到相同的信道容量，信道通频带应为多大？要达到相同的信道容量，信道通频带应为多大？（3 3）若信道通频带减小为）若信道通频带减小为0.5MHZ 0.5MHZ 时，要保持相时，要保持相同的信道容量，信道上的信号与噪声的平均功率同的信道容量，信道上的信号与噪声的平均功率比值应等于多大？比值应等于多大？5657例例 有一个二元对称信道，其信道矩阵如图有一个二元对称信道，其信道矩阵如图 所示。设该信道以所示。设该信道以1500150
35、0个二元符号个二元符号/秒的速秒的速度传输输入符号。现有一消息序列共有度传输输入符号。现有一消息序列共有1400014000个二元符号，并设在这消息中个二元符号，并设在这消息中p(0)=p(1)=1/2p(0)=p(1)=1/2。问从信息传输的角度来。问从信息传输的角度来考虑，考虑，1010秒钟内能否将这消息序列无失真秒钟内能否将这消息序列无失真地传送完。地传送完。58解：解：BSC信道信道 C=1-H(P)P为错误传递概率为错误传递概率 由题得由题得 P=0.02，则，则 C=1-H(0.02)=1+0.02log0.02+0.98log0.98 =0.859 bit/符号符号 信息传输速率
36、信息传输速率 Rt=15000.859=1288.5 bit/秒秒 共需传输共需传输 14000 比特，无失真比特，无失真所需时间所需时间 t=14000/1288.5=10.86s 10s 传不完。传不完。59例例 求图中信道的信道容量及其最佳输入概率求图中信道的信道容量及其最佳输入概率分布。分布。6031613161613161311 1P2161313121616131212P上图中两信道的信道矩阵为上图中两信道的信道矩阵为为为对称离散信道对称离散信道。则由信道容量公式得。则由信道容量公式得C1=log4H（1/3，1/6，1/3，1/6）=0.0817 比特比特/符号符号C2=log3H（1/2，1/3，1/6）=0.126 比特比特/符号符号最佳输入分布（即达到信道容量的输入分布）是最佳输入分布（即达到信道容量的输入分布）是输入为等概率分布输入为等概率分布。
