信息论基础
适用专业名称:信息与通信工程、电子信息(电子与通信工程)
参考书目:
《信息论与编码》(第3版) 曹雪虹、张宗橙主编 清华大学出版社,2016
一、考试目的与要求
《信息论基础》作为全日制信息与通信工程、电子信息(电子与通信工程)专业硕士研究生入学考试复试科目,其目的是测试考生掌握信息论基础的基本原理和基本方法,以及应用信息论基本原理与方法解决实际问题的能力。考生应全面了解信息论基础的基本内容、最新技术和发展方向,理解单符号离散信源、单符号离散信道、离散信道的信道容量、离散序列信源、离散序列信信道、无失真信源编码和有噪信道编码等相关内容的基本原理。
二、试卷结构(满分50分)
内容比例:
信息及编码的基本概念和原理 约20分
信息量及熵值的计算、信源编码和信道编码计算 约30分
题型比例:
名词解释 10分
简答题 10分
计算题 30分
三、考试内容与要求
(一)绪论
信息与信息科学,通信系统的基本模型,信息论发展史,信息论的应用(了解)。
(二)信源与信息熵
信源的描述与分类(了解,核心)
自信息量和互信息(了解,核心)
信息熵(理解,核心)
信源熵的性质(了解,核心)
数据处理中信息的变化(了解,核心)
离散信源的最大熵定理(了解,核心)
离散无记忆信源的扩展信源(理解,核心)
离散平稳信源(理解,核心)
马尔可夫信源(理解,核心)
信源的冗余度(理解,核心)
(三)信道与信道容量
信道的基本概念(理解,核心)
信道的数学模型(理解,核心)
信道容量(理解,核心)
离散单个符号信道及其容量 (理解,核心)
离散序列信道及其容量(了解)
连续信道及其容量(了解)
多输入多输出信道及其容量(了解)
信源与信道的匹配(理解,核心)
(四)信息率失真函数
信息率失真函数的概念和性质(了解,核心)
失真函数和平均失真(了解)
信息率失真函数及其性质(理解,核心)
信息率失真函数与信道容量(理解,核心)
离散信源和连续信源额R(D)(了解)
(五)信源编码
编码的概念(理解,核心)
定长码和变长信源编码定理(理解,核心)
限失真信源编码定理(了解,核心)
哈夫曼编码(理解,核心)
算术编码(了解,核心)
LZ编码和游程编码(了解,核心)
(六)信道编码
有扰离散信道的编码定理(理解,核心)
纠错编译码的基本原理与分析方法(理解,核心)
线性分组码(理解,核心)
卷积码(了解,核心)
四、备注
需要使用不带记忆功能的科学计器。