信息论基础

课程编号：34122215

课程名称(中文)：信息论基础

课程名称(英文)：Foundation of Information Theory

学分数/开课学期：3/5

课程类别：公共基础课选修

面赂专业：信息与计算科学

课程负责人：朱庆勇

课程内容简介(中文)：

信息论是由Shannon奠基的一门数学学科，它产生于有效而可靠的通信问题中。通过本课程的学习，使学生能够掌握信息论的基本概念和方法，为信息科学的研究打下一个坚实的基础，进而可以进行很多的科学探讨。

主要内容包括：

1. 信息论的基本概念：熵和互信息。
2. 信源编码理论。
3. 离散无记忆信道、信道容量等基本概念。
4. 信道编码理论。
5. 离散无记忆信源和率失真函数
6. 网络信息理论、通信网中的信源编码与信道容量等信息理论与问题。

课程内容简介(英文)：

Information theory is a mathematical theory proposed by Shannon. It comes from the efficient and credible communication problems. After learning this subject, the students can understand some basic concepts and methods of information theory. It will become a secure foundation for the research of information science and furthermore can be used for many fundamental scientific discussions.

It includes

1. Entropy and mutual information
2. The source coding theorem
3. Discrete memory less channels and their capacity
4. The channel coding theorem
5. Discrete memory less sources and their rate-distortion functions
6. Information theory in network, the source and channel coding theorems in network respectively.