Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Ακολουθιακά Μοντέλα Συσχετισμένων Δεδομένων Μάθησης: (ι) Δίκτυα Hopfield, (ii) Recurrent Neural Nets (RNN), (iii) Δίκτυα Long Short-Term Memory (LSTM)
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Δένδρα Αποφάσεων (Decision Trees): (i) Αλγόριθμοι Διαμόρφωσης CART (Classification And Regression Trees), Gini Index, (ii) Random Forests, (iii) Αλγόριθμοι Bagging (Bootstrap & aggregating)
(i) Μη-παραμετρικοί Ταξινομητές – K Πλησιέστερα Στοιχεία Μάθησης (K-Nearest Neighbors – KNN), (ii) Στατιστική Αξιολόγηση Δυαδικής Ταξινόμησης – Μετρικές Αξιολόγησης Μεθόδων, Μήτρα Σύγχυσης, ROC, AUC, (iii) Παραμετρική Πιθανοτική Ταξινόμηση – Εκτίμηση MLE & MAP, Ταξινομητής Bayes, Αλγόριθμος Naive Bayes
Δυαδική Ταξινόμηση – Αλγόριθμοι Πυρήνα (Kernel Methods): (i) Διαχωρισιμότητα Προτύπων, Θεώρημα του Cover, (ii) Radial-Basis Function (RBF) Networks, (iii) RBF Hybrid Learning, (iv) Support Vector Machines (SVM)
Ενισχυτική Μάθηση με Προσεγγιστικές Μεθόδους: (i) Μάθηση Χρονικών Διαφορών (Temporal-Difference Learning), (ii) Στοχαστικός Αλγόριθμος Q-Learning, (iii) Κατενημημένη Υλοποίηση Ενισχυτικής Μάθησης, (iv) Αλγόριθμος Bellman-Ford, Δρομολόγηση BGP στο Internet
Ενισχυτική Μάθηση – Δυναμικός Προγραμματισμός: (i) Markov Decision Processes, (ii) Bellman’s Optimality Criterion, (iii) Αλγόριθμος Policy Iteration, (iv) Αλγόριθμος Value Iteration
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Στοχαστικές Μηχανές Μη Επιβλεπόμενης Μάθησης: Παραγωγικά Μοντέλα – Generative Models: (i) Boltzmann Machine & Logistic Belief Nets, (ii) Restricted Boltzmann Machine (RBM) – Deep Belief Nets
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Μέθοδοι Μηχανικής Μάθησης & Βελτιστοποίησης μέσω Εννοιών Στατιστικής Φυσικής: (1) Αλγόριθμοι Simulated Annealing, (2) Gibbs Sampling, (3) Μηχανή Boltzmann
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Προσομοίωση Monte Carlo Αλυσίδων Markov: Αλγόριθμοι Metropolis & Metropolis-Hastings, Προσομοιωμένη Ανόπτηση – Simulated Annealing, Markov Random Fields, Ising Model
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Μοντέλα Στατιστικής Μηχανικής, Κινητικότητα & Ισορροπία, Αλυσίδες Markov: Καταστάσεις, Εξισώσεις Μεταβάσεων
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Μη Επιβλεπόμενη Μάθηση – Unsupervised Learning, K-Means Clustering, Ανάλυση Κυρίων Συνιστωσών – Principal Component Analysis (PCA), Self-Organizing Maps (SOM), Autoencoders
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Επισκόπηση Νευρωνικών Δικτύων, Κανόνας του Hebb, Ρύθμιση Παραμέτρων με Επιβλεπόμενη Μάθηση & Back Propagation Algorithm
Στοχαστικές Διεργασίες & Βελτιστοποίηση στη Μηχανική Μάθηση: Εισαγωγικά περί Μηχανικής Μάθησης – Επισκόπηση Linear & Logistic Regression