Seminar AI-Infrastruktur für Administratoren: Sicherheit, IAM und Mandantenfähigkeit

AI-Infrastruktur erweitert die klassische Angriffsfläche um wertvolle Modellartefakte, umfangreiche Datenspeicher, privilegierte Beschleunigerzugriffe und leicht automatisierbare Inferenzschnittstellen. Gleichzeitig arbeiten Infrastruktur, Data Science und Entwicklung häufig mit unterschiedlichen Werkzeugen und Freigabeprozessen. Ohne klare Schichten entstehen dauerhafte Zugangsdaten, unnötige Hostrechte und schwer kontrollierbare Datenabflüsse.

Das Seminar entwickelt ein mehrschichtiges Sicherheitsmodell für private AI-Plattformen. Bestehende Verfahren für IAM, Netzwerksegmentierung, Hardening und Lieferkettenschutz werden auf Modelle, Serving-Runtimes, GPU-Knoten und Kubernetes-Mandanten angewendet.

Zielgruppe

System- und Kubernetes-Administratoren, Security Engineers, Plattformteams, IAM-Verantwortliche und technische Betreiber privater AI-Dienste.

Voraussetzungen

Grundkenntnisse zu Linux, IP-Netzen, Identitätsverwaltung und Containern. Kubernetes-Grundkenntnisse werden für die praktischen Mandantenübungen empfohlen.

Seminarinhalte

Schutzobjekte und Bedrohungsmodell

• Modelle, Adapter, Trainingsdaten, Vektordaten, Prompts, Schlüssel und Telemetrie klassifizieren
• Administrations-, Lieferketten-, Mandanten-, API- und Datenabflussrisiken unterscheiden
• Vertrauensgrenzen zwischen Rechenzentrum, Cluster, Namespace, Modellserver und Client festlegen
• Schutzbedarf in technische Kontrollen, Protokollierung und Freigaben übersetzen

Identitäten und Berechtigungen

• Zentrale Benutzeridentitäten, Gruppen, Rollen und starke Anmeldung für Administration nutzen
• Dienstidentitäten, ServiceAccounts und Workload-Identitäten von Benutzerkonten trennen
• Kurzlebige Zugangsdaten, Tokenpublikum, Schlüsselrotation und Break-Glass-Zugänge gestalten
• Least Privilege einschließlich DRA-Adminzugriff für Plattformbetrieb, Modellbereitstellung und Nutzung umsetzen

Knoten- und Containersicherheit

• GPU-Knoten härten, Managementzugänge begrenzen und Treiberänderungen kontrollieren
• Rootless- und nicht privilegierte Container, Seccomp, Capabilities und Read-only-Dateisysteme einsetzen
• Gerätedateien, Hostpfade, Operatorrechte und privilegierte DaemonSets kritisch prüfen
• Runtime- und Hostereignisse überwachen und Abweichungen vom freigegebenen Zustand erkennen

Mandantentrennung in Kubernetes

• Namespaces, RBAC, Quoten, LimitRanges und Policy Enforcement kombinieren
• Netzwerkpolicies, Egress-Kontrolle, interne Dienste und DNS-Zugriffe begrenzen
• Geteilte, partitionierte und dedizierte Beschleuniger nach Isolationsbedarf auswählen
• Node Pools, Runtime Classes und zusätzliche Sandboxing-Verfahren für höhere Schutzbedarfe einordnen

Lieferkette für Images und Modelle

• Interne Registries und Modellablagen mit Rollen, Versionierung und unveränderbaren Freigaben betreiben
• Prüfsummen, Signaturen, Provenienz, Softwarestücklisten und Schwachstellenprüfung anwenden
• Modelle und Laufzeiten vor Produktion technisch prüfen und quarantänisieren
• Offline-Transfer, Freigabeschleusen und nachvollziehbare Promotion zwischen Umgebungen gestalten

Vertrauliche Ausführung und Attestierung

• Confidential Containers, Pod-VMs und hardwaregestützte Vertrauensanker betrieblich einordnen
• CPU-, Gast- und GPU-Attestierung zu einer überprüfbaren Vertrauenskette verbinden
• Schlüssel und Modelle erst nach erfolgreicher Attestierung an Workloads freigeben
• Schutzgewinn, Hardwarebindung, Performancekosten und Betriebsreife vor dem Einsatz bewerten

Inferenzzugriff und Protokollierung

• Gateway-Authentisierung, Autorisierung, Mandantenquoten und Rate Limits umsetzen
• TLS, interne Zertifikate, Dienst-zu-Dienst-Identitäten und Netzwerkzonen kombinieren
• Prompt-, Antwort- und Trace-Daten datensparsam protokollieren und sensible Inhalte schützen
• Sicherheitsereignisse, administrative Änderungen und Modellfreigaben revisionsfähig erfassen

Praktische Übungen

• Ein Schutzobjekt- und Vertrauenszonenmodell für eine private AI-Plattform erstellen
• Rollen und Dienstidentitäten für Plattformbetrieb, Modellbereitstellung und Nutzung trennen
• Einen Namespace mit Quoten, Pod-Sicherheitsvorgaben und Netzwerkpolicy absichern
• Ein Containerimage und ein Modellartefakt anhand definierter Integritäts- und Freigaberegeln prüfen
• Eine Attestierungs- und Schlüsselfreigabekette für einen vertraulichen Inferenz-Workload entwerfen
• Einen Inferenzendpunkt mit Authentisierung, Mandantenquote und datensparsamer Protokollierung schützen

Methodik

Das Schutzmodell wird schichtweise an einer Beispielplattform umgesetzt. Berechtigungs- und Netzwerkprüfungen zeigen, ob Kontrollen tatsächlich wirken. Die Übungen bleiben auf technische Administration und überprüfbare Konfigurationen konzentriert.