Περιεχόμενο Μαθήματος
Πληροφορία – εντροπία (εντροπία, συνδετική εντροπία, υπό συνθήκη εντροπία, επεκτάσεις πηγής πληροφορίας, πηγή πληροφορίας με μνήμη, αναλογική πηγή πληροφορίας), χωρητικότητα διαύλου πληροφορίας (δίαυλος πληροφορίας, διαπληροφορία – χωρητικότητα, δίαυλος πληροφορίας χωρίς απώλειες, ιδανικός δίαυλος πληροφορίας, ομοιόμορφος δίαυλος πληροφορίας, δυαδικός συμμετρικός δίαυλος πληροφορίας, Σ-δίαυλος πληροφορίας, αλυσιδωτή σύνδεση διαύλων πληροφορίας), κωδικοποίηση σε αθόρυβο περιβάλλον (ορολογία και ταξινόμηση κωδίκων, θεώρημα του Kraft, πρώτο θεώρημα Shannon, απλοί κώδικες (Shannon, Shannon-Fano, Huffmann, δενδροδιάγραμμα απόφασης). Κωδικοποίηση σε θορυβικό περιβάλλον (κριτήρια αποκωδικοποίησης, φράγμα Fano, δεύτερο θεώρημα Shannon, αποκάλυψη σφαλμάτων, διόρθωση σφαλμάτων, κώδικας Hamming). Αλγεβρική κωδικοποίηση (κώδικες ομάδας, κώδικες Hamming, BCH, Golay, υλοποίηση κυκλικών κωδίκων, συνελικτικοί κώδικες).