1、信息熵的定义及其数学性质；互信息的定义及性质。连续信源的熵的定义和性质，最大熵定理。
2、信道容量的定义及常用求解方法。常见的特殊信道的信道容量的求解。连续信道的信道容量，以及组合信道的信道容量的求解。仙农公式。
3、编码的基本理论。即时码的充分必要条件。仙农第一定理，最佳信源编码方法。常用的信源编码熵编码方法，包括有成编码，算术编码，通用编码等。
4、信息恢复和信息估计的基本理论，最大后验概率准则和最大使然准则。仙农第二定理---信道编码定理。
5、率失真的定义及率失真函数的定义域、性质。离散信源的率失真函数的求解方法；仙农第三定理。