Ηλεκτρονική Διάθεση Μαθήματος
Μαθησιακά Αποτελέσματα
Γνωστικοί: Θεμελίωση και μαθηματική θεώρηση των εννοιών της μάθησης και γενίκευσης στην βαθιά μάθηση. Συγκριτική θεώρηση των βασικών τύπων μηχανών μάθησης. Κατανόηση των βασικών εννοιών της εκπαίδευσης και της μαθησιακής ικανότητας των μηχανών μάθησης. Έκθεση στην ευρεία εφαρμογή των μηχανών μάθησης στην αναγνώριση προτύπων, προσέγγιση συναρτήσεων, εξόρυξη δεδομένων και ανάκτηση πληροφορίας.
Δεξιότητες:Ικανότητα επίλυσης προβλημάτων αναγνώρισης προτύπων και προσέγγισης συναρτήσεων με χρήση τεχνικών βαθιάς μάθησης και υλοποίηση των αντίστοιχων αλγορίθμων εκπαίδευσης. Χρήση διαθέσιμων βιβλιοθηκών βαθιάς μάθησης. Όξυνση προγραμματιστικών δεξιοτήτων. Ικανότητα πλήρους αντιμετώπισης ενός πραγματικού προβλήματος με υλοποίηση αλγορίθμου, εκτέλεση πειραμάτων με πραγματικά δεδομένα και συγγραφή έκθεσης αποτελεσμάτων.
Περιεχόμενο Μαθήματος
Επισκόπηση νευρωνικών δικτύων. Βαθιά μάθηση (Deep Learning) και ο αλγόριθμος εκπαίδευσης back-propagation. Βαθιά δίκτυα αυτοκωδικοποίησης (Deep autoencoders) και εξαγωγή χαρακτηριστικών. Προσομοιωμένη ανόπτηση και βαθιές μηχανές Boltzmann (Deep Boltzmann Machines). Βαθιά συνελικτικά νευρωνικά δίκτυα (Convolutional Neural Networks). Βαθιά αναδρομικά νευρωνικά δίκτυα (Reccurent Neural Networks) για μάθηση ακολουθιακών δεδομένων. Generative adversarial networks. Βαθιά ενισχυτική μάθηση (Deep Reinforcement Learning). Μεταφορά Γνώσης. Θέματα βελτιστοποίησης, κανονικοποίησης, υπερ-εκπαίδευσης, μάθησης και γενίκευσης. Σχεδιασμός και εκπαίδευση βαθιών αρχιτεκτονικών. Βιβλιοθήκες και εργαλεία ανάπτυξης και υλοποίησης βαθιών νευρωνικών δικτύων. Θέματα υπολογιστικής πολυπλοκότητας βαθιών αρχιτεκτονικών και παράλληλης επεξεργασίας σε κάρτες γραφικών. Υλοποίηση σε ενσωματωμένα συστήματα (embedded systems). Εφαρμογές σε ανάλυση, κατηγοριοποίηση, ομαδοποίηση και ανάκτηση δεδομένων μεγάλης κλίμακας. Εφαρμογές σε εξαγωγή σημασιολογικής πληροφορίας από δεδομένα κειμένου, ήχου, εικόνας και video. Εφαρμογές σε έλεγχο αυτόνομων μηχανών και πρακτόρων.
Βιβλιογραφία μαθήματος (Εύδοξος)
1. ΤΕΧΝΗΤΑ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ, Κ. ΔΙΑΜΑΝΤΑΡΑΣ, ΚΛΕΙΔΑΡΙΘΜΟΣ, 2007, ΑΘΗΝΑ
2. ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ ΚΑΙ ΜΗΧΑΝΙΚΗ ΜΑΘΗΣΗ, 3η ΕΚΔΟΣΗ, S. Haykin, Παπασωτηρίου, 2010, Αθήνα.
3. Διαφάνειες και υλικό σε ηλεκτρονική μορφή
4. Free E-books στα Αγγλικά