Seminar EU AI Act – MLOps und LLMOps für Compliance-by-Design

Eine Produktionsversion muss technisch rekonstruierbar sein. Bei modernen KI-Anwendungen verändern jedoch nicht nur Modellgewichte, sondern auch Systemprompts, Retrieval-Daten, Guardrails und Werkzeuge das Verhalten. Das Seminar steuert alle relevanten Artefakte gemeinsam.

Nutzen

Engineering-Teams können Kontrollen in bestehende Entwicklungs- und Betriebsabläufe integrieren. Compliance-Evidenzen entstehen möglichst automatisch aus Pipeline, Registry, Tests und Deployment, statt nachträglich in separaten Tabellen gepflegt zu werden.

Lernziele

• Konfigurationsidentität für Daten, Modell, Prompt, Code und Umgebung herstellen
• risikobasierte Test- und Freigabe-Gates in Pipelines umsetzen
• Genehmigungen, Ausnahmen und Trennung von Aufgaben technisch abbilden
• Deployment, Monitoring, Drift, Rollback und Außerbetriebnahme nachweisen

Zielgruppen

ML- und Softwareentwickler, MLOps- und Plattformteams, DevOps, SRE, Qualitätssicherung, Informationssicherheit und technische Governance.

Voraussetzungen

Praxis in Versionsverwaltung, CI/CD und Softwarebetrieb; ML- oder LLM-Grundkenntnisse sind erforderlich.

Seminarinhalte

Artefakt- und Versionsmodell

• Datenstände, Features und Labels
• Modelle, Adapter, Prompts und Wissensbasen
• Code, Policies, Guardrails und Laufzeitkonfiguration

Pipeline-Kontrollen

• reproduzierbarer Build und Provenienz
• Daten-, Leistungs-, Bias- und Sicherheitstests
• Policy Gates und risikobasierte Schwellenwerte

Freigabe und Deployment

• Vier-Augen-Prinzip und Trennung von Aufgaben
• signierte Artefakte und Freigabemanifest
• stufenweises Rollout, Rückfall und Abschaltung

LLMOps-Besonderheiten

• RAG-Daten und Embedding-Versionen
• Prompt-Evaluation und Tool-Berechtigungen
• Provider- und Modelländerungen

Betrieb

• Monitoring, Drift und Qualitätsfeedback
• Logs mit Datenschutz und Zugriffsschutz
• Incident-Verknüpfung und erneute Freigabe

Praxisanteil

Eine Beispielanwendung wird durch eine kontrollierte Pipeline geführt. Änderungen an Daten, Prompt und Modell lösen unterschiedliche Tests und Genehmigungen aus; ein fehlerhaftes Deployment wird erkannt und zurückgerollt.

Aktualitätsstand

Die technische Umsetzung ist für aktuelle Transparenzpflichten und die kommende Hochrisiko-Konformität ausgelegt und berücksichtigt noch entstehende harmonisierte Standards über austauschbare Kontrollprofile.