Virtual reality multitracking interaction with 3D characters for immersive training applicationsVirtual reality multitracking interaction with 3D characters for immersive training applicationsΠολλαπλή παρακολούθηση κινήσεων αλληλοεπιδρώντας με τρισδιάστατους χαρακτήρες για εμβυθισμένες εκπαιδευτικές εφαρμογές σε εικονική πραγματικότητα Διπλωματική Εργασία Diploma Work 2017-10-022017enΗ παρούσα διπλωματική εργασία υλοποιεί Αλληλεπιδραστική Εκπαιδευτική Εφαρμογή Εκμάθησης Χορού σε Εικονική Πραγματικότητα με Πολλαπλή Παρακολούθηση Κινήσεων Χρήστη και Αλληλεπίδραση σε Πραγματικό Χρόνο με Τρισδιάστατο Χαρακτήρα. Ο χρήστης, ο οποίος βρίσκεται στην κύρια σκηνή, εκπαιδεύεται από τον τρισδιάστατο ανθρώπινο χαρακτήρα που έχει σαρωθεί με 3D White Light Scanner, σε πραγματκό χρόνο. Ρεαλιστικές κινήσεις αλληλεπίδρασης εφαρμόστηκαν στον τρισδιάστατο χαρακτήρα χρησιμοποιώντας μεθοδολογίες Αντίστροφης Κινηματικής (Inverse Kinematics), οι οποίες ενεργοποιούνται ανάλογα με τις χορευτικές κινήσεις του χρήστη. Για την μοντελοποίηση των χαρακτήρων προστέθηκαν "οστά". Με την διαδικασία Αποτύπωσης Κινήσεων (Motion Capture) επαναπροσδιορίστηκαν οι κινήσεις του τρισδιάστατου χαρακτήρα. Για να μειωθεί ο υπολογιστικός φόρτος της μονάδας επεξεργασίας γραφικών (GPU), εφαρμόστηκε η τεχνική "Baked GI" αυξάνοντας έτσι τα καρέ ανά δευτερόλεπτο (FPS) για βέλτιστη απόδοση εφαρμογών εικονική πραγματικότητας. Το τελικό σύστημα προσφέρει μία ολοκληρωμένη πλατφόρμα αλληλεπίδρασης μεταξύ ανθρώπου και τρισδιάστατου χαρακτήρα προσφέροντας πολλαπλές επιλογής εκμάθησης χορού υλοποιημένη με τη μηχανή ανάπτυξης εφαρμογών τρισδιάστατων γραφικών Unity. Η διαδικασία μάθησης ξεκινά με την πρώτη επιλογή "Βασικά Βήματα" του Λατινικού χορού Salsa που περιλαμβάνει το "Βασικά Α", "Πλαϊνά Βήματα" και "Δεξιά Στροφή". Οι χρήστες μπορούν να εξασκηθούν στην καθοδήγηση σε πραγματικό χρόνο του τρισδιάστατου μοντέλου για να εκτελέσουν τα "Πλαϊνά Βήματα" και τη "Δεξιά Στροφή". Τέλος, οι χρήστες μπορούν να επιλέξουν την τελευταία επιλογή "Χορός", όπου μπορούν να αυτοσχεδιάσουν και να χορέψουν, οδηγώντας τον τρισδιάστατο χαρακτήρα ενώ εκτελούν οι ίδιοι τα βασικά βήματα που έμαθαν κατά τη διάρκεια της εκμάθησης. Οι χρήστες αλληλεπιδρούν με το σύστημα με κινήσεις χεριών ενώ είναι εμβυθισμένοι σε οθόνη εικονικής πραγματικότητας. This thesis implements a Virtual Reality (VR) Multitracking interaction with 3D characters resulting in an immersive dance training application using the Occulus Rift HMD system and the Leap Motion hand tracking controller. The player, who is placed in the main scene, is trained by the 3D White Light scanned human character in a virtual environment which is designed and developed in Unity3D. Realistic animations were applied to the character using a complex Inverse Kinematics (IK) system applied to the rigged 3D human model. Characters are rigged with custom skeletons using 3D geometrical bones and IK solvers. Motion capture data were re-targetted so that animations of the 3D character are produced. The motion capture data, derived from the tracking device Kinect v2, were applied to the rigged 3D model to create realistic dance animations. Rendering optimization techniques such as Baked GI, were applied in the scene to reduce the GPU's rendering load and to increase the frame rate per second (FPS) of the VR application. The training process starts with the first option named "Basic Steps" of the Salsa Latin dance which includes the "Basic A", the "Side Steps" and the "Right Turn" dance routine. By selecting the "Interaction" option, the users can practice dance by leading the 3D model to execute the "Side Steps" and the "Turn" animation. Finally, the users can select the last "Dance" option, where they can improvise and dance, leading the 3D character while they execute the basic steps they have learned. This procedure allows the users to practice their actions by interacting with User Interface panels using gestures such as thumb and waving hands, combining touches and pinch actions. Δυπλωματική Εργασία που υποβλήθηκε στη σχολή ΗΜΜΥ του Πολ. Κρτήτης για την πλήρωση προϋποθέσεων λήψης του Προπτυχειακού Διπλώματος.http://creativecommons.org/licenses/by/4.0/Πολυτεχνείο Κρήτης::Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών ΥπολογιστώνKirakosian_Salva_Dip_2017.pdfChania [Greece]Library of TUC2017-10-02application/pdf23.0 MBfree Kirakosian Salva Κιρακοσιαν Σαλβα Mania Aikaterini Μανια Αικατερινη Zervakis Michalis Ζερβακης Μιχαλης Lagoudakis Michael Λαγουδακης Μιχαηλ Πολυτεχνείο Κρήτης Technical University of Crete Immersive Inverse kinematics White light scanner Interaction Multitracking Virtual reality