信道编码定理

香农的有噪信道编码定理是什么啊？

C.E.Shannon在其“通信的数学理论”一文中提出并证明了著名的有噪信道编码定理，他在证明信息速率达到信道容量可实现无差错传输时引用了3个基本条件： 1） 采用随机性编译码。 2） 编码长度L趋于无穷，即分组的码组长度无限。 3） 译码过程采用最佳的最大似然译码（ML）方案。

信源编码和信道编码的作用是什么？

信源编码是对输入信息进行编码，优化信息和压缩信息并且打成符合标准的数据包。信道编码是在数据中加入验证码，并且把加入验证码的海据进行调制。 2者的作用完全不一样的。

通信原理信道编码

首先要理解信道编码的意义是为了提高通信的可靠性，也就是保证少出错。其次，学习时要有矩阵、维度的思想，可以把握以下顺序，一维的奇偶监督，二维的行列监督，三维及以上的汉明码、循环码，更加厉害的交织码、TURBO码等。

信源编码的信源编码定理

不同类型的信源，是否存在有每种信源的最佳的信源编码，这通常是用信源编码定理来表示。最简单、最有实用指导意义的信源编码定理是离散、无记忆型信源的二进制变长编码的编码定理。它证明，一定存在一种无失真编码，当把N个符号进行编码时，平均每个符号所需二进码的码长满足。其中H（U）是信源的符号熵（比特），这就是说，最佳的信源编码应是与信源信息熵H（U）统计匹配的编码，代码长度可接近符号熵。这一结论不仅表明最佳编码存在，而且还给出具体构造码的方法，即按概率特性编成不等长度码。对不同类型信源，如离散或连续、无或有记忆、平稳或非平稳、无或限定失真等，可以构成不同的组合信源，它们都存在各自的信源编码定理。但它们中绝大部分仅是属于理论上的存在性定理，这给具体寻找和实现不同类型信源的信源编码，带来了相当的难度。

香农三大定理的香农第一定理

香农第一定理(可变长无失真信源编码定理)设离散无记忆信源X包含N个符号{x1,x2,…,xi,..,xN}，信源发出K重符号序列，则此信源可发出N^k个不同的符号序列消息，其中第j个符号序列消息的出现概率为PKj，其信源编码后所得的二进制代码组长度为Bj，代码组的平均长度B为B=PK1B1+PK2B2+…+PKN^kBN^k当K趋于无限大时，B和信息量H(X)之间的关系为B*K=H(X)(K趋近无穷）香农第一定理又称为无失真信源编码定理或变长码信源编码定理。香农第一定理的意义：将原始信源符号转化为新的码符号，使码符号尽量服从等概分布，从而每个码符号所携带的信息量达到最大，进而可以用尽量少的码符号传输信源信息。

信道编码的纠错码的各种类型

卷积码非常适用于纠正随机错误，但是，解码算法本身的特性却是：如果在解码过程中发生错误，解码器可能会导致突发性错误。为此在卷积码的上部采用RS码块，RS码适用于检测和校正那些由解码器产生的突发性错误。所以卷积码和RS码结合在一起可以起到相互补偿的作用。卷积码分为两种：(1)基本卷积码:基本卷积码编码效率为，η=1/2,编码效率较低,优点是纠错能力强。(2)收缩卷积码如果传输信道质量较好，为提高编码效率，可以采样收缩截短卷积码。有编码效率为：η=1/2、2/3、3/4、5/6、7/8这几种编码效率的收缩卷积码。编码效率高，一定带宽内可传输的有效比特率增大,但纠错能力越减弱。 1993年诞生的Turbo码，单片Turbo码的编码/解码器，运行速率达40Mb/s。该芯片集成了一个32×32交织器，其性能和传统的RS外码和卷积内码的级联一样好。所以Turbo码是一种先进的信道编码技术，由于其不需要进行两次编码，所以其编码效率比传统的RS+卷积码要好。3.4GSM系统中的信道编码GSM系统把20ms语音编码后的数据作为一帧，共260bit，分成50个最重要比特、132个次重要比特和78个不重要比特。在GSM系统中，对话音编码后的数据既进行检错编码又进行纠错编码。如图5所示。首先对50个最重要比特进行循环冗余编码(CRC)，编码后为53bit；再将该53bit与次重要的132bit一起进行约束长度为K=5，编码效率为R=1/2的卷积编码，编码后为2(53+132+4)=378bit；最后再加上最不重要的78bit，形成信道编码后的一帧共456bit。3.5IS-95系统中的信道编码（1）正向链路上的信道编码在IS-95系统中，正向链路上是以不同的沃尔什(Walsh)函数来区分不同的物理信道的。在用沃尔什函数进行直接扩频调制之前，要对话音数据或信令数据进行编码效率R=1/2、约束长度为K=9的信道编码。由于CDMA系统是受自身干扰的系统，各业务信道上的发射功率受到严格的限制。当系统中使用同一频率信道的用户较多时，对每个用户而言，接收信噪比就降低。所以，CDMA系统的话音编码被设计为多速率的。当接收信噪比较高时，采用较高速率的话音编码，以获得较好的接收话音质量；当接收信噪比较低时，就采用较低的话音编码速率。较低速率的话音编码数据经卷积编码后，可进行字符重复。语音编码数据速率越低，卷积编码后字符可重复的次数越多，使得在较差信道上传输的信号获得更多的保护。（2）反向链路上的信道编码IS-95系统中，反向链路上是用不同的长伪随机序列来区分不同的物理信道的。在用长伪随机序列进行直接扩频调制之前，要对语音数据或信令数据进行编码效率R=1/3(速率集1)或R=1/2(速率集2)、约束长度为K=9的信道编码。由于同样的原因，语音编码同样被设计为多速率的。当接收信噪比较低时。可采用较低的话音编码速率、字符重复的方法，提高在信道上传输时的抗干扰性能。 在实际应用中，比特差错经常成串发生，这是由于持续时间较长的衰落谷点会影响到几个连续的比特，而信道编码仅在检测和校正单个差错和不太长的差错串时才最有效（如RS只能纠正8个字节的错误）。为了纠正这些成串发生的比特差错及一些突发错误，可以运用交织技术来分散这些误差，使长串的比特差错变成短串差错，从而可以用前向码对其纠错，例如：在DVB-C系统中，RS(204,188)的纠错能力是8个字节，交织深度为12，那么纠可抗长度为8×12=96个字节的突......余下全文>>

无噪信道编码定理与有噪信道编码定理比较 信息论的

C.E.Shannon在其“通信的数学理论”一文中提出并证明了著名的有噪信道编码定理，他在证明信息速率达到信道容量可实现无差错传输时引用了3个基本条件： 1） 采用随机性编译码。 2） 编码长度L趋于无穷，即分组的码组长度无限。 3） 译码过程采用最佳的最大似然译码（ML）方案。

香农三大定理的介绍

香农三大定理是信息论的基础理论。香农三大定理是存在性定理，虽然并没有提供具体的编码实现方法，但为通信信息的研究指明了方向。香农第一定理是可变长无失真信源编码定理。香农第二定理是有噪信道编码定理。香农第三定理是保失真度准则下的有失真信源编码定理。

香农三大定理的香农第二定理

香农第二定理（有噪信道编码定理）有噪信道编码定理。当信道的信息传输率不超过信道容量时，采用合适的信道编码方法可以实现任意高的传输可靠性，但若信息传输率超过了信道容量，就不可能实现可靠的传输。设某信道有r个输入符号，s个输出符号，信道容量为C，当信道的信息传输率R