删除或更新信息,请邮件至freekaoyan#163.com(#换成@)

上海交通大学电子信息与电气工程学院硕士课程内容介绍《信息论与编码》

上海交通大学 免费考研网/2012-12-28


《信息论与编码》

课程代码X033532学分/学时3.0/54开课时间
课程名称信息论与编码
开课学院电子信息与电气工程学院
任课教师骆源
面向专业计算机科学与技术
预修课程概率论、线性代数
课程讨论时数0 (小时)课程实验数0 (小时)
课程内容简介

随着信息技术的发展,现代信息理论融合了通讯、信息安全、网络信息编码、数据压缩以及生物技术等多个交叉领域。本课程的第一部分将介绍信息理论的基本知识,包括信息的度量、无失真信源(数据)压缩、有失真信源(数据)压缩、序列的弱典型性和强典型性等知识。另外,由于目前编码理论与信息理论已密不可分。编码理论已不限于通讯系统,它在计算机系统设计方面也有广泛应用,同时在密码学、网络信息研究中成为重要工具。因此本课程的第二部分将介绍一些分组码、线性码、循环码及译码准则方面的知识。当然还要随堂讲授一些基本代数知识。

课程内容简介(英文)

Information and Coding theory has fundamental contributions to communication theory (data transmission), computer science (data compression), cryptography, statistical physics and so on. This course has two parts. The first part is of information theory, which includes the measurement of information (entropy, relative entropy, mutual information); weakly typical sequence (for data compression); strongly typical sequence (for data transmission). The second part is of coding theory, which includes block codes, linear codes, cyclic codes, and decoding principles. Furthermore, some basic knowledge about finite field and probability theory will be repeated.

教学大纲

1. 信息的度量: 离散随机变量、马儿科夫链、熵、条件熵、互信息、条件互信息、链式规则、相对熵、基本信息不等式。2. 基于无失真信源压缩编码:熵界;唯一可译码;前缀码;Huffman码。3. 基于有失真信源压缩编码:序列的弱典型性。4. 基于信道编码:序列的强典型性。5. 基于分组码:纠错、检错、覆盖半径、填充半径、码的大小的各种界。6. 有限域等抽象代数知识补充.7. 线性码、循环码、循环Hamming码的结构和性质8. 复习课、习题课与考试

课程进度计划

(无)

课程考核要求

本课程期末考试(笔试)占45%, 平时大作业占45%, 平时点名及课上提问占10%.

参 考 文 献
  • 1. 1. A First Course in Information Theory, Raymond W. Yeung, Springer (Kluwer Academic/Plenum Publishers), March 20022. 2. Elements of information theory, Cover and Thomas, Wiley 1991. 清华大学出版社有影印版3. 3.The theory of information and coding, 2nd Edition, R. J. McEliece, Cambridge 2002. 电子工业出版社有影印版和中译本。4. 4.Introduction to coding theory, 3rd Edition, J.H. van Lint, Springer. 世界图书出版公司有影印本GTM86。5. 5.计算机中的纠错码技术,王新梅等著,人民邮电出版社 1999。
相关话题/课程