Seminar Sicherheit, Datenschutz und Governance für domänenspezifische Sprachmodelle

Kleine und lokale Modelle reduzieren bestimmte Abhängigkeiten, sind aber nicht automatisch sicher oder datenschutzkonform. Risiken entstehen in Datenaufnahme, Training, Adapterlieferkette, Retrieval, Promptverarbeitung, Werkzeugaufrufen, Logs und nachgelagerten Aktionen. Lokaler Betrieb verlagert Verantwortung statt sie aufzulösen.

Das Seminar baut ein risikobasiertes Kontrollsystem für den gesamten Lebenszyklus auf. Technische Maßnahmen werden mit Rollen, Freigaben, Dokumentation und Incident-Prozessen verbunden, damit Schutz nicht erst kurz vor dem Produktionsstart geprüft wird.

Lernziele

Nach Abschluss des Seminars können die behandelten Verfahren fachlich eingeordnet, technisch angewendet und anhand nachvollziehbarer Kriterien bewertet werden.

• Assets, Datenflüsse, Vertrauensgrenzen, Angreiferziele und Fehlfolgen eines SLM-Systems modellieren
• Trainings-, Retrieval-, Modell- und Softwarelieferkette kontrollieren und nachweisbar versionieren
• Prompt Injection, Datenabfluss, Poisoning, unsichere Ausgaben und missbräuchliche Werkzeuge begrenzen
• Datenschutzanforderungen in Datenminimierung, Löschung, Zugriff, Logging und Tests übersetzen
• Risikoregister, Modell- und Datendokumentation, Freigabegates und Incident-Prozess etablieren

Seminarinhalte

Die Inhalte verbinden Grundlagen, Architekturentscheidungen und praktische Umsetzung in einer konsistenten Arbeitsumgebung.

Bedrohungsmodell und Schutzbedarf

• Modell, Adapter, Tokenizer, Prompts, Retrieval-Index, Tools, Logs und Geheimnisse als Assets
• Vertrauensgrenzen zwischen Nutzer, Anwendung, Retrieval, Modellserver und Zielsystem
• Missbrauch, Fehlfunktion, Datenabfluss, Integritätsverlust und Verfügbarkeitsangriffe
• Risikobewertung nach Eintritt, Auswirkung, Erkennbarkeit und bestehender Kontrolle

Daten- und Modelllieferkette

• Herkunft, Lizenz, Prüfsummen, Signaturen, Malwareprüfung und reproduzierbare Artefakte
• Poisoning, Backdoors, manipulierte Adapter, unsichere Ladeoptionen und fremder Modellcode
• Datenfreigabe, PII-Erkennung, Geheimnisse, Deduplizierung und Löschanforderungen
• Registries, Rollen, Vier-Augen-Freigabe und nachvollziehbare Änderungen

Anwendungs- und Laufzeitsicherheit

• Direkte und indirekte Prompt Injection sowie Trennung von Daten und Instruktionen
• Authentisierung, Autorisierung, Mandantentrennung und Berechtigungsfilter vor Retrieval
• Tool Allowlist, minimale Rechte, Parameterprüfung, Transaktionsgrenzen und menschliche Bestätigung
• Ausgabevalidierung vor HTML, SQL, Shell, Code, E-Mail oder Geschäftsprozess
• Memory- und Context-Poisoning, unsichere Agentenkommunikation und kaskadierende Fehlaktionen
• Rate Limits, Kontext- und Ausgabelimits, Zeitüberschreitungen und Überlastschutz

Datenschutz und Protokollierung

• Zweckbindung, Datenminimierung, Rechts- und Löschkonzept als technische Anforderungen
• Training versus flüchtige Inferenz sowie Auswirkungen auf Speicher- und Löschpfade
• Pseudonymisierung, Verschlüsselung, Schlüsselverwaltung und abgeschottete Verarbeitung
• Datensparsame Logs, Zugriff auf Traces, Aufbewahrung und sichere Testdaten

Governance und Lebenszyklus

• Rollen für Daten, Modell, Anwendung, Plattform, Sicherheit und fachliche Freigabe
• Technische Dokumentation, Modellkarte, Datenblatt, Evaluationsbericht und bekannte Grenzen
• Risikoklassifikation der konkreten Anwendung und Abgrenzung von Modell- und Systemverantwortung
• Bewertung, ob eine Modelländerung wesentlich ist und welche Dokumentation der Anpassung erforderlich wird
• Freigabekriterien, regelmäßige Neubewertung, Änderungsmanagement und Rückfallversion
• Meldung, Eindämmung, Ursachenanalyse und Wiederanlauf bei KI-bezogenen Incidents

Praktische Übungen

Die Übungen werden an einem durchgängigen, produktneutralen Beispielszenario durchgeführt und mit prüfbaren Kriterien ausgewertet.

• Datenfluss- und Bedrohungsmodell für eine SLM-Anwendung erstellen
• Modell- und Adapterlieferkette mit Prüf- und Freigabepunkten entwerfen
• Prompt-Injection-, Exfiltrations- und unsichere Tool-Calling-Fälle testen
• Memory-Poisoning und kaskadierende Agentenfehler in einem isolierten Testszenario untersuchen
• Logging- und Löschkonzept anhand unterschiedlicher Schutzbedarfe prüfen
• Risikoregister, Kontrollmatrix, Freigabegate und Incident-Runbook ausarbeiten

Zielgruppe

Geeignet für technische, organisatorische und prüfende Rollen, die ein gemeinsames Kontrollmodell benötigen. Das Seminar erläutert regulatorische Anforderungen als Projekt- und Dokumentationsaufgaben, ersetzt jedoch keine Rechtsberatung für den Einzelfall.

Methodik

Fachliche Einordnung, Trainerdemonstrationen, geführte Laborabschnitte, eigenständige Übungen und gemeinsame Auswertung wechseln einander ab. Konfigurationen und Entscheidungen werden so dokumentiert, dass sie nach dem Seminar reproduzierbar bleiben.