Ιδρυματικό Αποθετήριο
Πολυτεχνείο Κρήτης
Πολυτεχνείο Κρήτης
EN
|
EL
| URI | http://purl.tuc.gr/dl/dias/71452342-B134-4FF8-B2B5-06849C9E9FB4 | - |
| Αναγνωριστικό | https://doi.org/10.26233/heallink.tuc.97293 | - |
| Γλώσσα | en | - |
| Μέγεθος | 4.5 megabytes | en |
| Μέγεθος | 61 pages | en |
| Τίτλος | Overparametrized deep neural networks: Convergence and generalization properties | en |
| Τίτλος | Υπερπαραμετροποιημένα νευρωνικά δίκτυα βαθείας μάθησης: Ιδιότητες σύγκλισης και γενίκευσης | el |
| Δημιουργός | Polyzos Christos | en |
| Δημιουργός | Πολυζος Χρηστος | el |
| Συντελεστής [Επιβλέπων Καθηγητής] | Liavas Athanasios | en |
| Συντελεστής [Επιβλέπων Καθηγητής] | Λιαβας Αθανασιος | el |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Karystinos Georgios | en |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Καρυστινος Γεωργιος | el |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Zervakis Michail | en |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Ζερβακης Μιχαηλ | el |
| Εκδότης | Πολυτεχνείο Κρήτης | el |
| Εκδότης | Technical University of Crete | en |
| Ακαδημαϊκή Μονάδα | Technical University of Crete::School of Electrical and Computer Engineering | en |
| Ακαδημαϊκή Μονάδα | Πολυτεχνείο Κρήτης::Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών | el |
| Περίληψη | In this thesis, we consider deep neural networks for Machine Learning. We depict neural networks as weighted directed graphs and we represent them as parametric functions that receive an input and compute an output, or prediction, given some fixed parameters, the weights and the biases. The quintessence of a neural network is the feed-forward model, in which the underlying graph does not contain cycles (acyclic graph) and the parametric function is defined in a compositional, or hierarchical, way. Throughout our presentation, we focus on a supervised learning setting, where our neural network model, or learner, has access to a training set that contains examples of how pairs of input-output data are related. In other words, supervised learning amounts to learning from examples. Given a training set, depending whether the outputs have real or categorical values, we consider regression and logistic regression. For each setting, we provide the basic statistical framework and construct a loss function known as the empirical risk. We train our neural network by minimizing the empirical risk w.r.t. its parameters by using gradient-based optimization methods. The gradient of the loss function is computed via the back-propagation algorithm. We showcase the convergence and generalization properties of different algorithms (deep neural network models and optimization methods) using real-world data. | en |
| Τύπος | Διπλωματική Εργασία | el |
| Τύπος | Diploma Work | en |
| Άδεια Χρήσης | http://creativecommons.org/licenses/by/4.0/ | en |
| Ημερομηνία | 2023-09-05 | - |
| Ημερομηνία Δημοσίευσης | 2023 | - |
| Θεματική Κατηγορία | Overparameterization | en |
| Θεματική Κατηγορία | Machine learning | en |
| Θεματική Κατηγορία | Generalization | en |
| Θεματική Κατηγορία | Deep neural networks | en |
| Θεματική Κατηγορία | Deep learning | en |
| Θεματική Κατηγορία | Convergence | en |
| Βιβλιογραφική Αναφορά | Christos Polyzos, "Overparametrized deep neural networks: Convergence and generalization properties", Diploma Work, School of Electrical and Computer Engineering, Technical University of Crete, Chania, Greece, 2023 | en |
| Βιβλιογραφική Αναφορά | Χρήστος Πολύζος, "Υπερπαραμετροποιημένα νευρωνικά δίκτυα βαθείας μάθησης: Ιδιότητες σύγκλισης και γενίκευσης", Διπλωματική Εργασία, Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, Πολυτεχνείο Κρήτης, Χανιά, Ελλάς, 2023 | el |
Copyright © DIAS 2013
