Ιδρυματικό Αποθετήριο
Πολυτεχνείο Κρήτης
Πολυτεχνείο Κρήτης
EN
|
EL
| URI | http://purl.tuc.gr/dl/dias/CD0054AA-4840-4F5F-90CB-9A7020612EE5 | - |
| Αναγνωριστικό | https://doi.org/10.26233/heallink.tuc.82700 | - |
| Γλώσσα | en | - |
| Μέγεθος | 46 pages | en |
| Τίτλος | Belief state space representation for statistical dialogue managers using deep autoencoders | en |
| Τίτλος | Αναπαράσταση χώρου πεποιθήσεων κατάστασης για στατιστικούς διαχειριστές διαλόγου με χρήση βαθέων αποκωδικοποιητών | el |
| Δημιουργός | Lygerakis Fotios | en |
| Δημιουργός | Λυγερακης Φωτιος | el |
| Συντελεστής [Επιβλέπων Καθηγητής] | Digalakis Vasilis | en |
| Συντελεστής [Επιβλέπων Καθηγητής] | Διγαλακης Βασιλης | el |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Lagoudakis Michail | en |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Λαγουδακης Μιχαηλ | el |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Diakoloukas Vasileios | en |
| Συντελεστής [Μέλος Εξεταστικής Επιτροπής] | Διακολουκας Βασιλeioς | el |
| Εκδότης | Πολυτεχνείο Κρήτης | el |
| Εκδότης | Technical University of Crete | en |
| Ακαδημαϊκή Μονάδα | Technical University of Crete::School of Electrical and Computer Engineering | en |
| Ακαδημαϊκή Μονάδα | Πολυτεχνείο Κρήτης::Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών | el |
| Περιγραφή | A thesis presented for the degree of Integrated Master of Engineering. | en |
| Περίληψη | Statistical Dialogue Systems (SDS) have proved their humongous potential over the past few years. However, the lack of efficient and robust representations of the belief state (BS) space refrains them from revealing their full potential. Furthermore, there is a great need for automatic BS representations, which will replace the old hand-crafted, variable-length ones. To tackle those problems, we introduce a novel use of the Autoencoder (AE). Our goal is to obtain a low-dimensional and compact, yet robust representation of the BS space. We investigate the use of dense AE, Denoising AE (DAE), Sparse Denoising AE (SDAE) and Variational Denoising AE (VDAE). Denoising approaches are particularly useful when corrupted BS vectors exist in environments with high uncertainty. We also explore the capabilities of Domain Independent Parameterization (DIP), a domain-independent alternative to the BS representation, and we combine them with different types of the AE, in order to obtain a more compact and robust representation of it. The BS space representation obtained from the AE is then used by two state-of-the-art Reinforcement Learning (RL) algorithms to learn the dialogue policies from simulated users in the PyDial toolkit; the non-parametric GP-SARSA and the parametric LSPI. In this framework, the BS is normally represented in a relatively compact, but still redundant summary space which is obtained through a heuristic mapping of the original master space. We show that the proposed AE-based representations consistently outperform the summary BS representation. Especially, as the Semantic Error Rate (SER) increases, the DAE/VDAE-based representations obtain state-of-the-art and sample efficient performance. | en |
| Περίληψη | Τα στατιστικά συστήματα διαλόγου (ΣΣΔ) έχουν αποδείξει τη τεράστια δυναμική τους τα τελευταία χρόνια. Ωστόσο, η έλλειψη αποτελεσματικών και ισχυρών αναπαραστάσεων των πεποιθήσεων κατάστασης (ΠΚ) τους αποτρέπει από το να αποκαλύψουν το πλήρες εύρος της δυναμικής τους. Επιπλέον, υπάρχει μεγάλη ανάγκη για αυτόματες τεχνικές αναπαράστασης των ΠΚ που να μεταφέρονται εύκολα σε πολλούς τομείς εφαρμογής (domains) , οι οποίες θα αντικαταστήσουν τις παλιές τεχνικές που βασίζονται σε κανόνες. Για την αντιμετώπιση των παραπάνω προβλημάτων, εισάγουμε μια νέα χρήση του Autoencoder (AE). Στόχος μας είναι να αποκτήσουμε μια χαμηλής διάστασης και συμπαγή, αλλά ισχυρή αναπαράσταση του χώρου των ΠΚ. Διερευνούμε τη χρήση του πυκνού ΑΕ, καθώς και του ΑΕ αποθορυβοποίησης (denoising) (DAE), του αραιού AE (SAE) και του DΑΕ διακύμανσης (variational) (VDAE). Οι προσεγγίσεις αποθορυβοποίησης είναι ιδιαίτερα χρήσιμες όταν υπάρχουν αλλοιώσεις στο διάνυσμα των ΠΚ σε περιβάλλοντα με υψηλή αβεβαιότητα. Επίσης, διερευνούμε τις δυνατότητες της Παραμετροποίησης Ανεξάρτητου Τομέα Εφαρμογής (DIP), μιας ανεξάρτητης από το πεδίο εφαρμογής, εναλλακτικής λύσης για την αναπαράσταση των ΠΚ , καθώς επίσης και του συνδυασμού της DIP με διαφορετικούς τύπους AE, για μια πιο συμπαγή και ισχυρή αναπαράσταση αυτής. Η αναπαράσταση του χώρου ΠΚ που λαμβάνουμε από τους διάφορους ΑΕ χρησιμοποιείται από δύο υπερσύγχρονους αλγόριθμους ενίσχυσης μάθησης (EM) για την εκμάθηση των πολιτικών διαλόγου˙ τον μη παραμετρικό GP-SARSA και τον παραμετρικό LSPI. Δείχνουμε ότι η προτεινόμενη προσέγγιση επιτυγχάνει υψηλότερες επιδόσεις πολιτικής σε σύγκριση με το πλήρες διάνυσμα ΠΚ, καθώς και την κυριαρχία του VDAE ως το καλύτερο εργαλείο αναπαράστασης, χρησιμοποιώντας προσομοιωμένους χρήστες στο εργαλείο PyDial. Συγκεκριμένα, ο VDAE σε συνδυασμό με τον LSPI παρουσίασε την καλύτερη απόδοση από όλους τους άλλους συνδυασμούς τεχνικών αναπαράστασης και σε οποιοδήποτε τομέα εφαρμογής, ακόμη και στα περιβάλλοντα με την υψηλότερη αβεβαιότητα. | el |
| Τύπος | Διπλωματική Εργασία | el |
| Τύπος | Diploma Work | en |
| Άδεια Χρήσης | http://creativecommons.org/licenses/by/4.0/ | en |
| Ημερομηνία | 2019-07-15 | - |
| Ημερομηνία Δημοσίευσης | 2019 | - |
| Θεματική Κατηγορία | Variational autoencoder | en |
| Θεματική Κατηγορία | Statistical dialogue systems | en |
| Θεματική Κατηγορία | Dialogue manager | en |
| Θεματική Κατηγορία | Denoising autoencoder | en |
| Θεματική Κατηγορία | Belief state space representation | en |
| Βιβλιογραφική Αναφορά | Fotios Lygerakis, "Belief state space representation for statistical dialogue managers using deep autoencoders", Diploma Work, School of Electrical and Computer Engineering, Technical University of Crete, Chania, Greece, 2019 | en |
| Βιβλιογραφική Αναφορά | Φώτιος Λυγεράκης, "Αναπαράσταση χώρου πεποιθήσεων κατάστασης για στατιστικούς διαχειριστές διαλόγου με χρήση βαθέων αποκωδικοποιητών", Διπλωματική Εργασία, Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, Πολυτεχνείο Κρήτης, Χανιά, Ελλάς, 2019 | el |
Copyright © DIAS 2013
