Τμήμα Μηχανικών Ηλεκτρονικών Υπολογιστών και Πληροφορικής

Πολυτεχνική Σχολή - Πανεπιστήμιο Ιωαννίνων

Θεωρία Πληροφορίας και Κωδίκων

Course Feature
Περιγραφή μαθήματος

Κωδικός Μαθήματος: Α8

Ειδίκευση - Ενότητα: Επιστήμη και Μηχανική Δεδομένων: Ενότητα Α - Τεχνολογίες Αλγορίθμων και Πληροφορίας

Τύπος: Μάθημα Επιλογής

Εβδομαδιαίες ώρες διδασκαλίας: 3

Μονάδες ECTS: 7

Ιστοσελίδα Μαθήματος:

Προσφερόμενο: ΟΧΙ

Περιεχόμενο:

Αρχές της Θεωρίας της Πληροφορίας. Μέτρα Πληροφορίας. Θεώρημα του Shannon. Εντροπία, Σχετική εντροπία και Αμοιβαία πληροφορία. Ασυμπτωτική Ιδιότητα ίσης Κατάτμησης (equipartition). Ρυθμοί Εντροπίας Στοχαστικών Διαδικασιών. Πιθανότητα Σφάλματος. Ρυθμός Εντροπίας. Συμπίεση Δεδομένων (συμπίεση χωρίς απώλειες μεταβλητού μήκους, συμπίεση σταθερού μήκους – σχεδόν χωρίς απώλειες, πρόβλημα Slepian-Wolf, καθολική συμπίεση). Διαφορική Εντροπία. Γκαοϋσιανό Κανάλι (Gaussian Channel). Θεωρία Πληροφοριών και Στατιστικές. Μέγιστη Εντροπία. Καθολική Κωδικοποίηση Πηγής. Κωδικοποίηση Διαύλων (Περιορισμοί αξιοπιστίας, γραμμικοί κώδικες, χωρητικότητα διαύλων, δίαυλοι με περιορισμούς εισόδου, κανάλια Gauss, κωδικοί πλέγματος, Κωδικοποίηση Διαύλων: Δίαυλοι Συνεχούς Χρόνου, Προηγμένη Κωδικοποίηση Διαύλου, Διαχωρισμός πηγών-καναλιού, Κωδικοποίηση Διαύλων με Ανατροφοδότηση, Κώδικες Πλήρωσης Χωρητικότητας μέσω Συναρμολόγησης Forney). Πολυπλοκότητα Kolmogorov. Θεωρία Πληροφορίας Δικτύων. NP-δύσκολα θεωρητικά προβλήματα κωδικοποίησης. Εφαρμογές στην θεωρία πολυπλοκότητας.

Αντιστοιχία Μαθήματος με παλαιό ΠΜΣ: