Ιδρυματικό Αποθετήριο
Πολυτεχνείο Κρήτης
Πολυτεχνείο Κρήτης
EN
|
EL
| URI: | http://purl.tuc.gr/dl/dias/0DC5064A-9D0B-44E9-9317-DA79363A7F86 | ||
| Έτος | 2023 | ||
| Τύπος | Διπλωματική Εργασία | ||
| Άδεια Χρήσης |
|
||
| Βιβλιογραφική Αναφορά | Γεώργιος Φραγγιάς, "Ομοσπονδοποιημένη μάθηση στο TensorFlow χρησιμοποιώντας τη γεωμετρική μέθοδο", Διπλωματική Εργασία, Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, Πολυτεχνείο Κρήτης, Χανιά, Ελλάς, 2023 https://doi.org/10.26233/heallink.tuc.98259 | ||
| Εμφανίζεται στις Συλλογές |
Η ραγδαία αύξηση της παραγωγής δεδομένων και της χρήσης του διαδικτύου κατά τα τελευταία έτη έχει δημιουργήσει πρωτοφανή ζήτηση για αποδοτική συλλογή, διαχείριση και ανάλυση Μεγάλων Δεδομένων. Οι συνεχώς αυξανόμενες ανησυχίες της κοινής γνώμης για το προσωπικό απόρρητο και η θέσπιση κανονισμών για την διασφάλισή του, παρωθούν την ανάγκη για ανάπτυξη αποκεντρωμένων, κατανεμημένων και επεκτάσιμων μηχανισμών Μηχανικής Μάθησης, οι οποίοι μπορούν να εξασφαλίσουν τόσο την ασφάλεια, όσο και την υψηλής ακρίβειας συλλογική εκπαίδευση. Το επιστημονικό πεδίο της Ομοσπονδοποιημένης Μάθησης εξειδικεύεται ακριβώς σε αυτό: να εκπαιδεύει ένα καθολικό μοντέλο μηχανικής μάθησης, χωρίς την μεταφορά ευαίσθητων τοπικά παραχθέντων δεδομένων. Για τους σκοπούς της παρούσας διπλωματικής εργασίας, δημιουργήθηκε μία αναπτύξιμη επέκταση στην βιβλιοθήκη Κατανεμημένης Μηχανικής Μάθησης KungFu, προκειμένου να διευκολυνθεί η εκτέλεση εργασιών Ομοσπονδοποιημένης Μάθησης, σε αποκεντρωμένους υπολογιστικούς κόμβους. Οι αλγόριθμοι που εφαρμόστηκαν είναι οι τρεις μέθοδοι Functional Dynamic Averaging, εμπνευσμένες από την Γεωμετρική Μέθοδο. Αυτοί οι αλγόριθμοι έχουν την δυνατότητα να επιτηρούν προσεγγιστικά μία καθολική συνάρτηση κατωφλίου, χρησιμοποιώντας αποκλειστικά τοπικά δεδομένα και, επακολούθως, να καθορίζουν την ανάγκη για συγχρονισμό και συνάθροιση των μοντέλων. Η υλοποίηση αυτή δοκιμάστηκε με την εκτέλεση εξαντλητικών πειραμάτων σε υποδομή πολλαπλών GPU, και συγκρίθηκε με έναν συνηθισμένο κατανεμημένο αλγόριθμο. Τα αποτελέσματα επιδεικνύουν σημαντική μείωση στη διάρκεια της εκπαίδευσης, λόγω μείωσης των επιβαρύνσεων επικοινωνίας, χωρίς επιπτώσεις στην ακρίβεια, ειδικότερα σε μη ιδανικές δικτυακές τοπολογίες.
Copyright © DIAS 2013
