Deep clustering based on implicit likelihood maximization

dc.contributor.authorΒαρδάκας, Γεώργιοςel
dc.date.accessioned2021-11-10T08:44:23Z
dc.date.available2021-11-10T08:44:23Z
dc.identifier.urihttps://olympias.lib.uoi.gr/jspui/handle/123456789/31471
dc.identifier.urihttp://dx.doi.org/10.26268/heal.uoi.11292
dc.rightsAttribution-NonCommercial-NoDerivs 3.0 United States*
dc.rights.urihttp://creativecommons.org/licenses/by-nc-nd/3.0/us/*
dc.subjectMachine Learningel
dc.subjectDeep Learningen
dc.subjectDeep neural networksen
dc.subjectGenerative data modelsen
dc.subjectImplicit modelsen
dc.subjectImplicit maximum likelihood estimationen
dc.subjectIMLEen
dc.subjectGenerative adversarial networken
dc.subjectGANsen
dc.subjectClusteringen
dc.subjectDeep clusteringen
dc.subjectClusterGanen
dc.subjectΜηχανική μάθησηel
dc.subjectΒαθιά μάθησηel
dc.subjectΒαθιά νευρωνικά δίκτυαel
dc.subjectΠαραγωγικά μοντέλα δεδομένωνel
dc.subjectΈμμεσα μοντέλαel
dc.subjectΈμμεση μεγιστοποίηση της πιθανοφάνειαςel
dc.subjectΠαραγωγικά ανταγωνιστικά δίκτυαel
dc.subjectΟμαδοποίησηel
dc.subjectΒαθιά ομαδοποίησηel
dc.titleDeep clustering based on implicit likelihood maximizationen
dc.titleΒαθιά ομαδοποίηση βασισμένη στην έμμεση μεγιστοποίηση της πιθανοφάνειαςel
heal.abstractDeep Learning is a type of machine learning and artificial intelligence that imitates how the human brain can learn. It is one of the essential elements of data science, which includes statistics and predictive modeling. Although DL started mainly for supervised tasks, lately, it has found success in several unsupervised learning fields, like clustering, dimensionality reduction, etc. Clustering belongs to unsupervised ma chine learning and is defined as a process of assigning objects to groups so that the data share common characteristics. Therefore, the main goal of clustering is for ob jects belonging to the same group to be similar (or related) to each other and differ (or not be related) to objects in different groups. This way, clustering explores the data and aims to find (hidden) structures in them. At the same time, clustering is one of the most challenging problems in the field of machine learning. In this master’s thesis, we study Deep Clustering methods. Deep clustering is a new promising area of clustering algorithms that emerged in recent years. The main goal of Deep Clustering is to create clustering algorithms merged with Deep Learn ing methods to exploit their representational power. Τherefore, in this thesis, we will clearly describe the new machine learning area of Deep Clustering and why it is con sidered promising. Afterward, we will present two Deep Clustering algorithms that were studied. The first Deep Clustering algorithm that we will discuss is the Cluster Gan, which makes use of a modified Generative Adversarial Networks’ architecture in order to cluster the data in latent space Z. The second Deep Clustering method that we will present is our contribution, and it is based on a generative Deep Neural Network model that is trained by Implicit Likelihood Maximization (IMLE). IMLE provides an effective way of maximizing the likelihood of the model indirectly. The Deep Clustering methodology that is based on IMLE also clusters the data in the latent space. Finally, we will analyze the experiments that took place and present the experimental results.en
heal.abstractΗ βαθιά μάθηση είναι ο τομέας της μηχανικής μάθησης που βασίζεται στην εκπαίδευση νευρωνικών δικτύων μεγάλου βάθους (deep neural networks). Παρά το γεγονός ότι η βαθιά μάθηση εφαρμόζεται κυρίως σε προβλήματα μάθησης με επίβλεψη, πρόσφατα αρχίσει να χρησιμοποιείται για διάφορα προβλήματα χωρίς επίβλεψη, όπως είναι η ομαδοποίηση, η μείωση διάστασης κ.λπ. Η ομαδοποίηση ανήκει στην κατηγορία προβλημάτων μηχανικής μάθησης χωρίς επίβλεψη, και ορίζεται ως την διαδικασία ανάθεσης αντικειμένων (δεδομένων) σε ομάδες, ώστε αυτά να έχουν κοινά χαρακτηριστικά. Ο κύριος στόχος της ομαδοποίησης είναι τα αντικείμενα που ανήκουν στην ίδια ομάδα να είναι περισσότερο όμοια μεταξύ τους και να διαφέρουν με αντικείμενα άλλων ομάδων. Στην παρούσα μεταπτυχιακή διπλωματική εργασία, μελετάμε μεθόδους βαθιάς ομαδοποίησης. Κύριος στόχος της βαθιάς ομαδοποίησης είναι η κατασκευή μεθόδων ομαδοποίησης, οι οποίες χρησιμοποιούν βαθιά μάθηση έτσι ώστε να εκμεταλλευτούν την ικανότητα που παρουσιάζουν τα βαθιά νευρωνικά δίκτυα στο να μετασχηματίζουν αποδοτικά τα δεδομένα σε μη γραμμικούς χώρους. Θα παρουσιάσουμε τους δύο βασικούς αλγορίθμους που μελετήθηκαν. Ο πρώτος αλγόριθμος βαθιάς ομαδοποίησης που θα παρουσιάσουμε είναι το ClusterGan, το οποίο κάνει χρήση μίας τροποποιημένης αρχιτεκτονικής παραγωγικών δικτύων ανταγωνιστικής μάθησης (GANs) με στόχο την ομαδοποίηση των δεδομένων. Η δεύτερη μεθοδολογία που θα παρουσιαστεί αποτελεί δική μας συνεισφορά, και βασίζεται σε ένα παραγωγικό νευρωνικό δίκτυο το οποίο εκπαιδεύεται μέσω έμμεσης μεγιστοποίησης της πιθα- νοφάνειας (IMLE). Αξίζει να σημειωθεί ότι η έμμεση μεγιστοποίηση της πιθανοφάνειας είναι μία αξιόλογη μέθοδος για την εκπαίδευση παραγωγικών δικτύων στην οποία θα επικεντρωθούμε και θα μελετήσουμε στην παρούσα εργασία. Η μέθοδος βαθιάς ομαδοποίησης η οποία βασίζεται στην έμμεση μεγιστοποίηση της πιθανοφάνειας έχει την δυνατότητα να ομαδοποιεί τα δεδομένα στο επίπεδο εισόδου του μοντέλου. Τέλος, θα παρουσιάσουμε τα πειράματα που που πραγματοποιήθηκαν και θα αναλύσουμε τα πειραματικά αποτελέσματα.el
heal.academicPublisherΠανεπιστήμιο Ιωαννίνων. Πολυτεχνική Σχολή. Τμήμα Μηχανικών Ηλεκτρονικών Υπολογιστών και Πληροφορικήςel
heal.academicPublisherIDuoi
heal.accessfree
heal.advisorNameΛύκας, Αριστείδηςel
heal.bibliographicCitationΒιβλιογραφία: σ. 75-81el
heal.classificationDeep Learning
heal.committeeMemberNameΛύκας, Αριστείδηςel
heal.committeeMemberNameΜπλέκας, Κωνσταντίνοςel
heal.committeeMemberNameΝίκου, Χριστόφοροςel
heal.dateAvailable2021-11-10T08:45:23Z
heal.fullTextAvailabilitytrue
heal.languageen
heal.numberOfPages82 σ.
heal.publicationDate2021
heal.recordProviderΠανεπιστήμιο Ιωαννίνων. Πολυτεχνική Σχολή. Τμήμα Μηχανικών Ηλεκτρονικών Υπολογιστών και Πληροφορικήςel
heal.typemasterThesis
heal.type.elΜεταπτυχιακή εργασίαel
heal.type.enMaster thesisen

Αρχεία

Πρωτότυπος φάκελος/πακέτο

Προβολή: 1 - 1 of 1
Φόρτωση...
Μικρογραφία εικόνας
Ονομα:
Μ.Ε. ΒΑΡΔΑΚΑΣ ΓΕΩΡΓΙΟΣ 2021.pdf
Μέγεθος:
2.17 MB
Μορφότυπο:
Adobe Portable Document Format
Περιγραφή:

Φάκελος/Πακέτο αδειών

Προβολή: 1 - 1 of 1
Φόρτωση...
Μικρογραφία εικόνας
Ονομα:
license.txt
Μέγεθος:
1.71 KB
Μορφότυπο:
Item-specific license agreed upon to submission
Περιγραφή: