URI | http://purl.tuc.gr/dl/dias/176CBB13-43FD-4D79-9F27-C297C4B1F452 | - |
Αναγνωριστικό | http://www.telecom.tuc.gr/~karystinos/paper_TNN.pdf | - |
Αναγνωριστικό | https://doi.org/10.1109/72.870038 | - |
Γλώσσα | en | - |
Μέγεθος | 7 | en |
Τίτλος | On overfitting, generalization, and randomly expanded training sets | en |
Δημιουργός | Karystinos Georgios | en |
Δημιουργός | Καρυστινος Γεωργιος | el |
Δημιουργός | Pados Dimitris A. | en |
Εκδότης | Institute of Electrical and Electronics Engineers | en |
Περιγραφή | Δημοσίευση σε επιστημονικό περιοδικό | el |
Περίληψη | An algorithmic procedure is developed for the random expansion of a given training set to combat overfitting and improve the generalization ability of backpropagation trained multilayer perceptrons (MLPs). The training set is K-means clustered and locally most entropic colored Gaussian joint input-output probability density function estimates are formed per cluster. The number of clusters is chosen such that the resulting overall colored Gaussian mixture exhibits minimum differential entropy upon global cross-validated shaping. Numerical studies on real data and synthetic data examples drawn from the literature illustrate and support these theoretical developments | en |
Τύπος | Peer-Reviewed Journal Publication | en |
Τύπος | Δημοσίευση σε Περιοδικό με Κριτές | el |
Άδεια Χρήσης | http://creativecommons.org/licenses/by/4.0/ | en |
Ημερομηνία | 2015-10-23 | - |
Ημερομηνία Δημοσίευσης | 2000 | - |
Θεματική Κατηγορία | Backpropagation | en |
Θεματική Κατηγορία | clustering methods | en |
Θεματική Κατηγορία | entropy | en |
Θεματική Κατηγορία | Gaussian distributions | en |
Θεματική Κατηγορία | multilayer perceptrons (MLPs) | en |
Θεματική Κατηγορία | stochastic approximation | en |
Θεματική Κατηγορία | stochastic processes | en |
Βιβλιογραφική Αναφορά | G. N. Karystinos and D. A. Pados, “On overfitting, generalization, and randomly expanded training sets,” IEEE Transactions on Neural Networks, vol. 11, no. 5, pp. 1050-1057, Sept. 2000. doi: 10.1109/72.870038 | en |