Extensions of hierarchical slow feature analysis for efficient classsification and regression on high-dimensional data
- This thesis develops novel extensions to Slow Feature Analysis (SFA) that solve supervised learning problems (e.g., classification and regression) on high-dimensional data (e.g., images) in an efficient, accurate, and principled way. Graph-Based SFA (GSFA) is the main new extension and relies on a graph structure where the samples are represented by vertices and label similarities between pairs of samples are represented by the strength of the edge weights. An even more accurate extension is Hierarchical Information-Preserving GSFA, which uses GSFA to build a hierarchical network and exploits an heuristic to increment the amount of information that is propagated from the input of the network to the output. The efficacy of the extensions is verified on image analysis problems, such as facial analysis (estimation of age, race, and gender), the detection of faces and eyes, digit recognition, and the classification of traffic signs, yielding from good to state-of-the-art accuracies.
- In dieser Doktorarbeit werden neue Erweiterungen der "Slow Feature Analysis" (SFA) zur effizienten und theoretisch fundierten Lösung von Problemen des überwachten maschinellen Lernens, z.B. der Regression und Klassifikation hochdimensionaler Bilddaten, vorgestellt. Der wichtigste Beitrag ist "Graph-Based SFA" (GSFA), eine Variante der SFA, die auf einer Darstellung der Daten gründet, in der Datenpunkte durch Knoten und Beziehungen zwischen Datenpunkten durch Kantengewichte in einer Graphen-Struktur repräsentiert werden. Eine leistungsfähigere Weiterentwicklung ist die "Hierarchical Information-Preserving GSFA" (HiGSFA), in der GFSA in einem hierarchischen Netzwerk mit einer Heuristik zur Verbesserung der Informationsübertragung vom Ein- zum Ausgang des Netzes genutzt wird. Die Wirksamkeit dieser Erweiterungen wird anhand von guten bis teils konkurrenzlosen Ergebnissen auf einer Reihe von Testproblemen, etwa der Alters-, Geschlechts- und Ethnienbestimmung aus Porträtfotos, belegt.
Author: | Alberto Nicolás Escalante BañuelosGND |
---|---|
URN: | urn:nbn:de:hbz:294-53882 |
Referee: | Laurenz WiskottORCiDGND, Rolf WürtzORCiDGND |
Document Type: | Doctoral Thesis |
Language: | English |
Date of Publication (online): | 2017/08/31 |
Date of first Publication: | 2017/08/31 |
Publishing Institution: | Ruhr-Universität Bochum, Universitätsbibliothek |
Granting Institution: | Ruhr-Universität Bochum, Fakultät für Elektrotechnik und Informationstechnik |
Date of final exam: | 2017/05/03 |
Creating Corporation: | Fakultät für Elektrotechnik und Informationstechnik |
GND-Keyword: | Maschinelles Lernen; Neuronales Netz; Deep learning; Regressionsschätzung; Klassifikation |
Institutes/Facilities: | Institut für Neuroinformatik |
Dewey Decimal Classification: | Allgemeines, Informatik, Informationswissenschaft / Informatik |
faculties: | Fakultät für Elektrotechnik und Informationstechnik |
Licence (German): | Keine Creative Commons Lizenz - es gelten der Veröffentlichungsvertrag und das deutsche Urheberrecht |