香农三大定理的内容

农第一定理（无失真信源编码定理）：对信源S的N次扩展信源进行编码时，若编码的平均码长小于信源S的熵值，则不存在单义可译码；大于熵值，则存在单义可译码，编码的平均码长的极限值就是信源S的熵值。
香农第二定理（有噪信道编码定理）：当信道的信息传输率不超过信道容量时，码长n足够长时，可以使信道的输出端的错误概率任意小，而信息传输率无线接近于信道容量。
香农第三定理（有损信源编码定理）：只要码长足够长，总可以找到一种信源编码，使编码后的平均失真度不大于给定的率失真函数。香农第一定理：可变长无失真信源编码定理。采用无失真最佳信源编码可使得用于每个信源符号的编码位数尽可能地小，但它的极限是原始信源的熵值。超过了这一极限就不可能实现无失真的译码。
香农第二定理：有噪信道编码定理。当信道的信息传输率不超过信道容量时，采用合适的信道编码方法可以实现任意高的传输可靠性，但若信息传输率超过了信道容量，就不可能实现可靠的传输。
香农第三定理：保真度准则下的信源编码定理，或称有损信源编码定理。只要码长足够长，总可以找到一种信源编码，使编码后的信息传输率略大于率失真函数，而码的平均失真度不大于给定的允许失真度，即D’<=D