Klausur (mündliche Prüfung bei geringer Teilnehmeranzahl)

In der Vorlesung werden grundlegende Begriffe der Mathematik, die beim maschinellen Lernen verwendet werden, wiederholt und eingeführt
- Kalkül: Multivariate Kalkulation (Gradient und Hessian), Taylor-Erweiterung usw.
- Lineare Algebra: Eigenvektoren, Eigenwerte (einschließlich Variationscharakterisierung), Singulärwertzerlegung und beste Approximation mit niedrigem Rang, Inverse und Pseudo-Inverse, Normen, grundlegende Algorithmen und ihre Komplexität (Lösen linearer Gleichungen, Matrixinversion, Eigenvektoren (Potenzmethode)) usw.
- Wahrscheinlichkeit: diskrete und kontinuierliche Wahrscheinlichkeitsmaße (und gemischte), Grundbegriffe, Erzeugung von Zufallsvariablen, bedingte Erwartung und Unabhängigkeit, Gesetz der großen Zahlen und Konzentrationsungleichungen für Konvergenzraten, zentraler Grenzwertsatz usw.
- Statistik: parametrische und nichtparametrische Tests
- Optimierung: Lagrangesches und duales Optimierungsproblem, gängige Optimierungstechniken und ihre Eigenschaften
- Optional: Grundlegende Funktionsanalyse und Approximationstheorie, Fluch der Dimensionalität

Die Studierenden lernen die mathematischen Grundlagen für die späteren Kurse zum maschinellen Lernen.
- sie kennen die multivariate Infinitesimalrechnung und die lineare Algebra, die in den Vorlesungen zum maschinellen Lernen benötigt werden
- sie können Wahrscheinlichkeitsrechnung und Statistik anwenden und sind in der Lage, grundlegende Eigenschaften zu beweisen
- sie haben einen Überblick über bestehende Optimierungstechniken und können äquivalente eingeschränkte Optimierungsprobleme umformulieren

The literature for this lecture will be provided at the beginning of the semester.