VVZ API is not affiliated with ETH Zurich. Data might be outdated or incorrect. Please view the official ETHZ Vorlesungsverzeichnis for binding information.
Information Theory I
Last Updated: 2026-06-01 11:30:51
Abstract
This course covers the basic concepts of information theory and of communication theory. Topics covered include the entropy rate of a source, mutual information, typical sequences, the asymptotic equi-partition property, Huffman coding, channel capacity, the channel coding theorem, the source-channel separation theorem, and feedback capacity.
Objective
The fundamentals of Information Theory including Shannon's source coding and channel coding theorems
Content
The entropy rate of a source, Typical sequences, the asymptotic equi-partition property, the source coding theorem, Huffman coding, Arithmetic coding, channel capacity, the channel coding theorem, the source-channel separation theorem, feedback capacity
Resources
Literature
T.M. Cover and J. Thomas, Elements of Information Theory (second edition)
General Information
- Language
- English
- Levels
- BSC , DR , MSC
- Frequency
- Yearly recurring
Examination
- Type
- session examination
- Mode
- written 180 minutes
- Aids
- Hardcopies of the course textbook, course handouts, and personal notes.
Course Components
| Type | Title | Time & Place | Hours |
|---|---|---|---|
| lecture with exercise | Information Theory I |
|
4 h weekly |
Offered In
-
-
Wahlfächer (Von den angebotenen Wahlfächern müssen mindestens zwei Lerneinheiten erfolgreich abgeschlossen werden.)
-
-
-
Wahlfächer (Von den angebotenen Wahlfächern müssen mindestens zwei Lerneinheiten erfolgreich abgeschlossen werden. Als Wahlfächer für Rechnergestützte Wissenschaften Master gelten automatisch (ohne Anrechnungsgesuch) auch alle Kernfächer/Vertiefungsfächer (aber nicht Wahlfächer!) aus folgenden Studiengängen: Informatik Master Mathematik Master Physik Master Elektrotechnik und Informationstechnologie Master Data Science Master Robotics, Systems and Control Master Statistik Master Neural Systems and Computation Master gemäss den angegebenen Abschnittsreferenzen.)
-
-
-
-
-
Anwendungsgebiet (Nur für das Master-Diplom in Angewandter Mathematik erforderlich und anrechenbar. In der Kategorie Anwendungsgebiet für den Master in Angewandter Mathematik muss eines der zur Auswahl stehenden Anwendungsgebiete gewählt werden. Im gewählten Anwendungsgebiet müssen mindestens 8 KP erworben werden. Kreditpunkte aus anderen Anwendungsgebieten sind nicht für weitere Anwendungsgebiete anrechenbar.)
-
Wahlfächer (Für das Master-Diplom in Angewandter Mathematik ist die folgende Zusatzbedingung (nicht in myStudies ersichtlich) zu beachten: Mindestens 14 KP der erforderlichen 26 KP aus Kern- und Wahlfächern müssen aus Bereichen der angewandten Mathematik und weiteren anwendungsorientierten Gebieten stammen.)
-
Wahlfächer aus Bereichen der angewandten Mathematik ... (vollständiger Titel: Wahlfächer aus Bereichen der angewandten Mathematik und weiteren anwendungsorientierten Gebieten)
-
-
-
-
-
Vertiefung: Signal Processing and Machine Learning (The core courses and specialisation courses below are a selection for students who wish to specialise in the area of "Signal Processing and Machine Learning ", see . The individual study plan is subject to the tutor's approval.)
-
Kernfächer (These core courses are particularly recommended for the field of "Signal Processing and Machine Learning". You may choose core courses form other fields in agreement with your tutor. A minimum of 24 credits must be obtained from core courses during the MSc EEIT.)
-
Vertiefungsfächer (These specialisation courses are particularly recommended for the area of "Signal Processing and Machine Learning", but you are free to choose courses from any other field in agreement with your tutor. A minimum of 40 credits must be obtained from specialisation courses during the MSc EEIT.)
-
-
Vertiefung: Communication (The core courses and specialisation courses below are a selection for students who wish to specialise in the area of "Communication", see . The individual study plan is subject to the tutor's approval.)
-
Kernfächer (These core courses are particularly recommended for the field of "Communication". You may choose core courses form other fields in agreement with your tutor. A minimum of 24 credits must be obtained from core courses during the MSc EEIT.)
-
-
-
-
Doktorat Mathematik (Mehr Informationen unter: )
-
Vertiefung Fachwissen (Die Liste der Lehrveranstaltungen für Doktoratsstudentinnen und Doktoratsstudenten wird jedes Semester im Newsletter der ZGSM veröffentlicht.)
-
Graduate School (Offizielle Website der Zurich Graduate School in Mathematics: )
-
-
-
Doktorat Informationstechnologie und Elektrotechnik (A minimum of 12 ECTS credit points must be obtained during doctoral studies (also see sub-categories for details) More Information at )
-
Vertiefung Fachwissen (The courses on offer below are only a small selection out of a much larger available number of courses. Please discuss your course selection with your PhD supervisor.)
-
-
-
-
-
Kernfächer (A minimum of 24 credits must be obtained from core courses during the MSc QE, course selection is subject to the tutor's agreement.)
-
Engineering Core Courses (These core courses target students with a physics background and all those who need additional engineering foundations.)
-
-
-
-
-
-
Fachspezifische Vertiefung (Es müssen mindestens 20 KP aus den Deep Track Lerneinheiten absolviert werden. Überzählige KP können für Wahlfächer angerechnet werden.)
-
-
Wahlfächer Space Communication (Diese Fächer können nur als Wahlfach angerechnet werden.)
-
-
-