Extensions of hierarchical slow feature analysis for efficient classsification and regression on high-dimensional data

  • This thesis develops novel extensions to Slow Feature Analysis (SFA) that solve supervised learning problems (e.g., classification and regression) on high-dimensional data (e.g., images) in an efficient, accurate, and principled way. Graph-Based SFA (GSFA) is the main new extension and relies on a graph structure where the samples are represented by vertices and label similarities between pairs of samples are represented by the strength of the edge weights. An even more accurate extension is Hierarchical Information-Preserving GSFA, which uses GSFA to build a hierarchical network and exploits an heuristic to increment the amount of information that is propagated from the input of the network to the output. The efficacy of the extensions is verified on image analysis problems, such as facial analysis (estimation of age, race, and gender), the detection of faces and eyes, digit recognition, and the classification of traffic signs, yielding from good to state-of-the-art accuracies.
  • In dieser Doktorarbeit werden neue Erweiterungen der "Slow Feature Analysis" (SFA) zur effizienten und theoretisch fundierten Lösung von Problemen des überwachten maschinellen Lernens, z.B. der Regression und Klassifikation hochdimensionaler Bilddaten, vorgestellt. Der wichtigste Beitrag ist "Graph-Based SFA" (GSFA), eine Variante der SFA, die auf einer Darstellung der Daten gründet, in der Datenpunkte durch Knoten und Beziehungen zwischen Datenpunkten durch Kantengewichte in einer Graphen-Struktur repräsentiert werden. Eine leistungsfähigere Weiterentwicklung ist die "Hierarchical Information-Preserving GSFA" (HiGSFA), in der GFSA in einem hierarchischen Netzwerk mit einer Heuristik zur Verbesserung der Informationsübertragung vom Ein- zum Ausgang des Netzes genutzt wird. Die Wirksamkeit dieser Erweiterungen wird anhand von guten bis teils konkurrenzlosen Ergebnissen auf einer Reihe von Testproblemen, etwa der Alters-, Geschlechts- und Ethnienbestimmung aus Porträtfotos, belegt.

Download full text files

Export metadata

Additional Services

Share in Twitter Search Google Scholar
Metadaten
Author:Alberto Nicolás Escalante BañuelosGND
URN:urn:nbn:de:hbz:294-53882
Referee:Laurenz WiskottORCiDGND, Rolf WürtzORCiDGND
Document Type:Doctoral Thesis
Language:English
Date of Publication (online):2017/08/31
Date of first Publication:2017/08/31
Publishing Institution:Ruhr-Universität Bochum, Universitätsbibliothek
Granting Institution:Ruhr-Universität Bochum, Fakultät für Elektrotechnik und Informationstechnik
Date of final exam:2017/05/03
Creating Corporation:Fakultät für Elektrotechnik und Informationstechnik
GND-Keyword:Maschinelles Lernen; Neuronales Netz; Deep learning; Regressionsschätzung; Klassifikation
Institutes/Facilities:Institut für Neuroinformatik
Dewey Decimal Classification:Allgemeines, Informatik, Informationswissenschaft / Informatik
faculties:Fakultät für Elektrotechnik und Informationstechnik
Licence (German):License LogoKeine Creative Commons Lizenz - es gelten der Veröffentlichungsvertrag und das deutsche Urheberrecht