Seminar Nevergrad Hyperparameter-Optimierung für Machine Learning

Zielsetzung

Nevergrad eignet sich besonders für hyperparametergetriebene Black-Box-Probleme mit kontinuierlichen, diskreten und gemischten Suchräumen. Das Seminar vermittelt, wie Suchräume sauber modelliert, Trainingsläufe sinnvoll bewertet und Optimierer in belastbare ML-Workflows integriert werden.

Zielgruppe

Das Format richtet sich an Data-Science- und MLOps-Teams, die Trainings- und Validierungsprozesse systematisch optimieren möchten. Ebenso profitieren Forschungs- und Entwicklungsteams, die robuste Tuning-Strategien für interne Modelle etablieren wollen.

Voraussetzungen

Erforderlich sind gute Python-Kenntnisse sowie Routine in Machine-Learning-Workflows. Erfahrung mit Cross-Validation, Modellbewertung und dem Umgang mit Trainingsskripten ist von Vorteil.

Inhalte

• Entwurf praxistauglicher Suchräume für kontinuierliche, diskrete und gemischte Hyperparameter
• Formulierung belastbarer Zielfunktionen für Training, Validierung und robuste Modellwahl
• Umgang mit verrauschten Bewertungen, instabilen Trainingsläufen und Early-Stopping-Strategien
• Auswahl geeigneter Nevergrad-Optimierer für ML-Anwendungen mit unterschiedlichen Budgets und Worker-Zahlen
• Parallelisierung und Skalierung von Auswertungen in typischen Trainingsumgebungen
• Dokumentation, Vergleich und Nachvollziehbarkeit von Tuning-Ergebnissen
• Übertragung auf eigene Modelle, Datenflüsse und MLOps-Prozesse

Praxisanteil

Im Zentrum stehen mehrere zusammenhängende Labs zur Optimierung realitätsnaher Modellparameter. Dabei werden Suchraumgrenzen, Bewertungsmetriken, Parallelisierung, Wiederholbarkeit und der Vergleich konkurrierender Suchstrategien praktisch umgesetzt.