授 课 计 划
2018 — 2019 学年第一学期
学 院: 太阳集团81068网址
课程名称: 信息论与编码
课程编码: 09A03040
课程类别: 专业任选课
计划学时: 48
学 分: 3.0
授课时间: 2018.9-2018.12
授课地点: 1J0510,10J508
教 学 班: 计算1601
授课教师: 温凤桐
填报日期: 2018 年 8 月20 日
信息论与编码是太阳集团81068网址信息与计算科学专业的专业任选课,在三年级第一学期开课.本课程重点讲述香浓信息论和编码理论的基本原理及其应用,主要内容包括信息的度量、离散信源和熵、无失真信源编码、离散信道和信道容量、有噪信道编码、限失真信源编码等等。
(二)教学目的与授课方式。
本课程教学目的是使员工了解信息熵、信道容量和信息率失真函数等基本概念,熟悉信源、信道编码定理,掌握一些重要的信源、信道编码方法,为将来从事相关领域信息资源研发应用打下必要的基础。本课程授课方式以课堂讲授为主,课堂讨论为辅。
推荐教材:孙丽华、陈荣伶编著《信息论与编码》(第4版) ,电子工业出版社,2016。
参考书目:
(1) 王育民等编著,《信息论与编码理论》,高等教育出版社,2005。
(2) 傅祖芸编著,《信息论---基础理论与应用》第三版,电子工业出版社,2011。
(3) 沈世镒等,《信息论与编码理论》(第二版),科学出版社,2010。
授课内容:
第1章 信息论基础
1.1信息的概念
1.2数字通信系统
1.3信源及其数学模型
1.4信道及其数学模型
目的要求:了解信息的概念、通信系统的模型,信息论的研究内容及其发展史。
第二周
授课内容:
第2章信息的度量
2.1自信息量和互信息量
2.2 离散集的平均自信息量
授课内容:
2.3 离散集的平均互信息量
2.4 N维扩展信源的熵和平均互信息量
目的要求:理解平均互信息、条件平均互信息的基本概念以及平均互信息的性质,掌握相关计算方法。
授课内容:
第2章习题课
第3章离散信源无失真编码
3.1概述
3.2等长码及等长编码定理
目的要求:了解各类熵之间的关系掌握离散信源N次扩展信源的模型及其熵的计算方法。了解码的分类,掌握即时码的构造方法以及平局码长、信息传输率的参数的计算。了解等长编码定理。
学时:2
授课内容:
3.4变长码及变长码编码定理
目的要求:了解变长编码定理,掌握利用克拉夫特不等式构造变长码的方法。
学时:4
授课内容:
3.5变长码的编码方法:香浓码、费诺码、霍夫曼编码
第3章习题课
授课内容:
第4章离散信道的信道容量
4.1信道容量的定义
目的要求:了解离散信道的分类、模型及信道容量的定义
授课内容:
4.2离散无记忆信道容量的计算
4.3组合信道的容量
授课内容:
第5章 有噪信道编码
5.1信道编码的基本概念
5.2译码规则与错误概率
5.3信道编码定理
5.4费诺引理及信道编码逆定理
目的要求:了解错误概率的相关概念,理解有噪信道编码定理。掌握最大后验概率和极大似然译码准则。
授课方式:讲授
授课内容:
第4,5章习题课
第6章率失真编码
6.1失真测度与平均失真
6.2信息率失真函数
目的要求:了解费诺引理及信道编码逆定理。理解失真测度、平均失真、信息率失真函数等基本概念。
授课方式:讲授
授课内容:
6.3率失真函数的计算
6.4率失真编码定理
目的要求:掌握特殊信源的信息率失真函数的定义与计算,了解限失真信源编码定理。
授课内容:
第7章线性分组码
7.1纠错码的基本概念
7.2群与群陪集分解
7.3线性分组码的编码
7.4线性码的纠检错能力
授课内容:
7.5标准阵列和译码
7.6汉明码
目的要求:掌握线性分组码利用标准阵进行译码的方法,掌握汉明码的工作原理。
授课内容:
第8章 循环码
8.1有限域及其结构
8.2循环码的一般概念
8.3循环码的生成多项式和生成矩阵
授课内容:
8.4循环码的校验多项式和校验矩阵
8.5循环码的编码
8.6循环码的译码
目的要求:掌握循环码的校验矩阵、校验多项式的构造方法及其与生成矩阵和生成多项式的关系。掌握循环码的编码和译码方法。
授课内容:
第7,8章习题课
总复习
目的要求:对7,8章进行总结;课堂答疑辅导。