Lehre & Beispielkurs
Grundlagen des Deep Learning

AI-Readiness ist ein wichtiges Thema in der nächsten Förderphase der Helmholtz-Zentren. Dieser Kurs bietet eine praxisorientierte Einführung in Machine- und Deep-Learning für Forscherinnen und Forscher verschiedener Fachrichtungen mit Fokus auf PyTorch-Übungen und anwendungsnahe Workflows.

Derzeit biete ich Kurse im Rahmen meiner Haupttätigkeit an. Sie können mich dort kontaktieren: Kontakt aufnehmen.

Vergangene Kurse und Workshops

Grundlagen des Deep Learning

Dieser Konzeptkurs führt in die Grundlagen von Machine- und Deep-Learning ein, zeigt praxisnahe PyTorch-Beispiele und Übungen zum Trainieren und Evaluieren neuronaler Netze. Der Kurs richtet sich an Umweltwissenschaftler*innen mit Grundkenntnissen in Python. Hinweis: Dies ist ein Entwurf ohne Veranstaltungslink.

Format: Online oder hybrid — einwöchiger Workshop mit Folien, Instructor-Notebooks und Jupyter-Übungen.


Einführung in Deep Learning
Lernen Sie die Kernideen der Lerntheorie und wann Deep Learning ein geeignetes Werkzeug ist, inklusive grundlegender Konzepte zu Schätzung und diskriminativem Lernen.
Themen: Grundlagen der Lerntheorie; Schätzung und Regression; diskriminatives Lernen.

Einführung in PyTorch
Sammeln Sie praktische Erfahrung mit PyTorch, indem Sie Tensoren erstellen, Verlustfunktionen implementieren und eine Trainingsschleife zum Trainieren eines einfachen Modells ausführen.
Themen: PyTorch-Tensoren; Tensor-Operationen; Verlustfunktionen; Perzeptron-Lernen.

Grundlagen des Deep Learning
Verstehen Sie die Unterschiede zwischen überwachtem und unüberwachtem Lernen, welche Aufgaben lernbar sind, und wie Datensätze für effektives Modelltraining vorbereitet werden.
Themen: überwachtes Lernen; Lernbarkeit; unüberwachtes Lernen; Datenvorbereitung für DL.

PyTorch Lernmechanismen
Implementieren und trainieren Sie ein Multi-Layer-Perceptron, lernen Sie, wie Hyperparameter die Leistung beeinflussen, und untersuchen Sie den vollständigen PyTorch-Trainingsablauf.
Themen: MLP-Aufbau; Neuronen- und Hyperparameter-Tuning; PyTorch-Trainingsmechanik; Daten-Pipeline-Strategien.

Deep-Learning-Architekturen
Erkennen Sie gängige Deep-Learning-Architekturen, ihre Stärken und Grenzen, und welche Architekturen für verschiedene Umweltprobleme geeignet sind.
Themen: Forschungsüberblick; Convolutional Neural Networks; latente und Memory-Modelle; Attention und Transformer.

Neuronale Netzwerke bauen
Setzen Sie vortrainierte Backbones ein und trainieren Sie gängige Architekturen an realen Datensätzen; lernen Sie Transfer-Learning-Workflows und datensatzspezifische Trainingsstrategien.
Themen: Aufbau gängiger Architekturen; Vortrainierte Modelle; ImageNet-Workflows; Trainingsstrategien für eigene Daten.

Bonus
Datenaufbereitung für KI
Erlernen Sie, wie man zuverlässige Trainingsdatensätze durch Bereinigung, Annotation und Augmentierung erstellt, damit Modelle in der Praxis gut generalisieren.
Themen: Datenbereinigung; Annotierungsstrategien; Augmentierungstechniken.

Bonus
Modellbasiertes Training
Verstehen Sie hybride Ansätze, die physikalische Modelle mit datengetriebenem Lernen verbinden, um Vorwissen zu nutzen und die Generalisierung zu verbessern.
Themen: physik-informierte Ansätze; hybride Modellierung; Integrationsstrategien.

Bonus
Generierung synthetischer Daten
Erkunden Sie Methoden zur Erzeugung synthetischer Datensätze und deren sinnvollen Einsatz zur Milderung von Datenknappheit und zur Verbesserung der Modellrobustheit.
Themen: Simulationspipelines; Domain-Randomization; render-to-data Strategien.

Bonus
Generative KI
Verstehen Sie die Fähigkeiten generativer Modelle und wie sie Daten synthetisieren oder Workflows für nachgelagerte Aufgaben ergänzen können.
Themen: generative Modelle; GANs und Diffusionsmodelle; Anwendungsfälle zur Datensynthese.

Bonus
Weitere Bibliotheken
Entdecken Sie, welche Python-Bibliotheken häufig verwendet werden. Ein Einstieg in Trainingsframeworks, Metaanalyse, und Anbieter von verschiedenen Netzwerkarchitekturen.
Themen: Libraries, Metaanalyse, pytorch-lightning, torchvision, MONAI.

Bonus
Unsicherheit & Bayesianisches Lernen
Lernen Sie grundlegende Techniken zur Quantifizierung von Modellunsicherheit und wie bayesianische Ansätze zu zuverlässigeren, probabilistischen Vorhersagen beitragen können.
Themen: Unsicherheitsquantifizierung; bayesianische neuronale Netze; probabilistische Vorhersagen.