VVZ API is not affiliated with ETH Zurich. Data might be outdated or incorrect. Please view the official ETHZ Vorlesungsverzeichnis for binding information.
Information Theory II
Last Updated: 2026-06-01 11:33:15
Abstract
This course builds on Information Theory I. It introduces additional topics in single-user communication, connections between Information Theory and Statistics, and Network Information Theory.
Objective
The course's objective is to introduce the students to additional information measures and to equip them with the tools that are needed to conduct research in Information Theory as it relates to Communication Networks and to Statistics.
Content
Sanov's Theorem, Rényi entropy and guessing, differential entropy, maximum entropy, the Gaussian channel, the entropy-power inequality, the broadcast channel, the multiple-access channel, Slepian-Wolf coding, the Gelfand-Pinsker problem, and Fisher information.
Resources
Lecture Notes
n/a
Literature
T.M. Cover and J.A. Thomas, Elements of Information Theory, second edition, Wiley 2006
Learning Materials (Links)
- Main link
- Course Information
General Information
- Language
- English
- Levels
- BSC , DR , MSC
- Frequency
- Every two years
Examination
- Type
- session examination
- Mode
- oral 30 minutes
Course Components
| Type | Title | Time & Place | Hours |
|---|---|---|---|
| lecture with exercise | Information Theory II |
|
4 h weekly |
Offered In
-
-
Wahlfächer (Von den angebotenen Wahlfächern müssen mindestens zwei Lerneinheiten erfolgreich abgeschlossen werden.)
-
-
-
Wahlfächer (Von den angebotenen Wahlfächern müssen mindestens zwei Lerneinheiten erfolgreich abgeschlossen werden.)
-
-
-
Anwendungsgebiet (Nur für das Master-Diplom in Angewandter Mathematik erforderlich und anrechenbar. In der Kategorie Anwendungsgebiet für den Master in Angewandter Mathematik muss eines der zur Auswahl stehenden Anwendungsgebiete gewählt werden. Im gewählten Anwendungsgebiet müssen mindestens 8 KP erworben werden. Kreditpunkte aus anderen Anwendungsgebieten sind nicht für weitere Anwendungsgebiete anrechenbar.)
-
-
-
-
Vertiefung: Communication (The core courses and specialization courses below are a selection for students who wish to specialize in the area of "Communication", see . The individual study plan is subject to the tutor's approval.)
-
Kernfächer (These core courses are particularly recommended for the field of "Communication". You may choose core courses form other fields in agreement with your tutor. A minimum of 24 credits must be obtained from core courses during the MSc EEIT.)
-
-
Vertiefung: Computers and Networks (The core courses and specialization courses below are a selection for students who wish to specialize in the area of "Computers and Networks", see . The individual study plan is subject to the tutor's approval.)
-
Vertiefungsfächer (These specialization courses are particularly recommended for the area of "Computers and Networks", but you are free to choose courses from any other field in agreement with your tutor. Semester / Research Projects are not allowed in this category. A minimum of 40 credits must be obtained from specialization courses during the Master's Programme.)
-
-
-
-
Fächer der Vertiefung (A total of 42 CP must be achieved form courses during the Master Program. The individual study plan is subject to the tutor's approval. Semester / Research Projects are not allowed in this category.)
-
-
Kernfächer (Diese Fächer sind besonders Empfohlen, um sich in "Communication" zu vertiefen.)
-
-
-
Empfohlene Fächer (Diese Fächer sind eine Empfehlung. Sie können Fächer aus allen Vertiefungsrichtungen wählen. Sprechen Sie mit Ihrem Tutor.)
-
-
-
-
-
Statistik Master (Die hier aufgelisteten Lehrveranstaltungen gehören zum Curriculum des Master-Studiengangs Statistik. Die entsprechenden KP gelten nicht als Mobilitäts-KP, auch wenn gewisse Lerneinheiten nicht an der ETH Zürich belegt werden können.)
-
Doktorat Informationstechnologie und Elektrotechnik (A minimum of 12 ECTS credit points must be obtained during doctoral studies (also see sub-categories for details) More Information at )
-
Vertiefung Fachwissen (The courses on offer below are but a small selection out of a much larger available number of courses. Please discuss your course selection with your PhD supervisor.)
-
-
Doktorat Mathematik (Mehr Informationen unter: )
-
Vertiefung Fachwissen (Die Liste der Lehrveranstaltungen (samt der zugehörigen Anzahl Kreditpunkte) für Doktoratsstudentinnen und Doktoratsstudenten wird jedes Semester im Newsletter der ZGSM veröffentlicht.)
-
Graduate School (Offizielle Website der Zurich Graduate School in Mathematics: )
-
-
-
-