Seminar OpenNebula – GPU-, KI- und HPC-Infrastrukturen

Beschleunigte Workloads reagieren empfindlich auf Topologie, Treiber, NUMA, Netzwerk und Ressourcenteilung. Der Kurs baut deshalb einen durchgängigen Pfad von der Hardwareprüfung bis zur überwachten Bereitstellung auf.

Inhaltsübersicht

• Zielsetzung
• Zielgruppe
• Voraussetzungen
• Seminarinhalte
• Praxisübungen
• Methodik

Zielsetzung

• GPU- und HPC-Anforderungen in Host-, Netzwerk- und Storage-Profile übersetzen
• PCI-Passthrough, vGPU und MIG nach Isolation und Auslastung auswählen
• NUMA, CPU-Pinning, NVLink- und Fabric-Anforderungen in Templates abbilden
• Telemetrie, Kapazitätsplanung und sichere Bereitstellung von KI-Services organisieren

Zielgruppe

Cloud- und HPC-Administratoren, AI-Plattformteams, Infrastrukturarchitekten, DevOps und technische Projektleitung.

Voraussetzungen

Gute Kenntnisse in Linux, KVM, PCIe, Netzwerk und OpenNebula. Grundlagen zu NVIDIA-Treibern, CUDA und Container- oder VM-Workloads sind hilfreich.

Seminarinhalte

1. Schritt 1: Workload- und Hardwareprofil erstellen

   Modellgröße, Speicherbedarf, Interconnect, Datenpfad, Latenz, Parallelität und Isolation werden in technische Mindestanforderungen überführt.

2. Schritt 2: IOMMU und PCI-Geräte prüfen

   BIOS-Optionen, Kernelparameter, IOMMU-Gruppen, Treiberbindung und Gerätezustand werden vor der Cloud-Integration validiert.

3. Schritt 3: PCI-Passthrough konfigurieren

   Geräte werden inventarisiert, Hostklassen zugeordnet, in Templates referenziert und mit Start-, Stop- und Migrationseinschränkungen getestet.

4. Schritt 4: vGPU und MIG einplanen

   Teilbarkeit, Profile, Speichergrenzen, Scheduling, Mandantentrennung und Fragmentierung werden gegenüber dedizierten GPUs bewertet.

5. Schritt 5: CPU- und NUMA-Topologie abstimmen

   CPU-Pinning, HugePages, NUMA-Nähe und Gerätezuordnung werden so kombiniert, dass unnötige Cross-Socket-Zugriffe vermieden werden.

6. Schritt 6: GPU-Fabric und Hochleistungsnetz einordnen

   NVLink, NVSwitch, Fabric Manager, InfiniBand, SR-IOV und Spectrum-X werden nach Workload- und Skalierungsbedarf bewertet.

7. Schritt 7: Templates für beschleunigte Workloads bauen

   GPU, CPU, RAM, Disks, Netzwerke, Kontextualisierung, Treiberanforderungen und Platzierungsregeln werden reproduzierbar abgebildet.

8. Schritt 8: Telemetrie und Forecasting aufsetzen

   GPU-Auslastung, Speicher, Temperatur, Fehler, Bandbreite und Kapazitätsprognosen werden in Monitoring und Alarmierung integriert.

9. Schritt 9: KI-Service bereitstellen und prüfen

   Ein modellbasierter Inferenzdienst wird mit definiertem Ressourcenprofil, Netzwerkzugang, Lasttest und Rückbau bereitgestellt.

Praxisübungen

• GPU-Host auf IOMMU-, Treiber- und Topologievoraussetzungen prüfen
• Template mit dediziertem PCI-Passthrough erstellen und starten
• MIG- oder vGPU-Profile hinsichtlich Auslastung und Isolation vergleichen
• NUMA- und CPU-Pinning-Konfiguration für einen Beispielworkload optimieren
• GPU-Telemetrie auswerten und Kapazitätsbedarf ableiten

Methodik

Hardwareprüfung, Template-Arbeit und Lasttests werden eng verbunden. Jede Konfiguration wird gegen Isolation, Performance, Wiederholbarkeit und betriebliche Einschränkungen geprüft.