Seminar AI Agent Supply Chain Security – AIBOM, Modelle, MCP-Server und Tools

Agentische Systeme beziehen Modelle, Daten, Prompts, Tools, MCP-Server und entfernte Agenten häufig dynamisch. Eine einzelne manipulierte Komponente kann dadurch Identitäten, Kontext und privilegierte Aktionen erreichen. Das Seminar schafft Transparenz und kontrollierte Freigaben für diese erweiterte Lieferkette.

Zielsetzung

Aufgebaut wird ein durchgängiger Prozess von Beschaffung und Inventarisierung über technische Prüfung und Freigabe bis zu Überwachung, Rückruf und Incident Response. Änderungen an Modellen, Agent Cards, Tool-Metadaten und Laufzeitkomponenten werden wie sicherheitsrelevante Releases behandelt.

Bestandteile der agentischen Lieferkette

• Modelle, Gewichte, Tokenizer, Modellkonfigurationen und Inferenzlaufzeiten
• Systemprompts, Policies, Guardrails, Evaluationsdaten, RAG-Quellen, Embeddings und Vektorspeicher
• MCP-Server, Tool-Beschreibungen, lokale Startbefehle, A2A-Agent-Cards und Extensions
• Quellcode, Bibliotheken, Container, Images, Infrastrukturmodule und Build-Pipelines
• Externe APIs, gehostete Modelle, Datenanbieter, Registries und transitive Dienstleister

AIBOM, SBOM und Herkunft

• Abgrenzung und Verbindung von AIBOM, AI-SBOM, klassischer SBOM und Laufzeitinventar
• Erfassung von Version, Hash, Herkunft, Lizenz, Anbieter, Trainings- und Nutzungsinformationen sowie Abhängigkeiten
• CycloneDX- und SPDX-basierte Austauschformate sowie Vollständigkeits- und Qualitätsprüfung
• Signaturen, Attestierungen, reproduzierbare Builds, Provenance und vertrauenswürdige Registries
• Zuordnung von Komponenten zu Agenten, Einsatzzweck, Datenklassen, Identitäten und Verantwortlichen

Prüfung und Freigabe

• Bewertung von Modellen, MCP-Servern, Tools und Agenten vor Aufnahme in freigegebene Kataloge
• Schutz vor Namensverwechslung, bösartigen Paketen, rug-pull-artigen Änderungen und manipulierten Metadaten
• Sandbox- und Verhaltenstests für lokale MCP-Server, Tool-Runner und Codeausführung
• Version Pinning, Änderungsanalyse, Regressionstests, gestufte Bereitstellung und Rollback
• Vulnerability Monitoring, Verhaltensabweichungen, Rückruf, Sperrung und Lieferantenkommunikation

Praktische Übungen

• Erstellung einer AIBOM für einen Agenten mit Modell, RAG, MCP-Server und mehreren Tools
• Bewertung eines externen MCP-Servers einschließlich Startbefehl, Berechtigungen und Netzwerkzugriff
• Prüfung von Hash, Signatur, Herkunft und Agent-Card-Metadaten
• Entwurf eines Freigabegates für Modell-, Prompt-, Tool- und Containeränderungen
• Bearbeitung eines Lieferkettenvorfalls mit Sperrung, Auswirkungsanalyse und kontrolliertem Ersatz

Einordnung im Seminarprogramm

Das Seminar vertieft den Lieferkettenanteil des Secure Development Lifecycle. Architektur und Threat Modeling liefern die Risikobasis; MCP- und A2A-Sicherheit sowie Red Teaming ergänzen die technische Prüfung dynamischer Komponenten.