Seminar Gravitee AI Agent Management – LLM-, MCP- und A2A-Gateways

Das Seminar konzentriert sich auf die kontrollierte Bereitstellung von Sprachmodellen, Werkzeugservern und Agentenkommunikation über Gravitee. Technische Schwerpunkte sind LLM Proxy, Model Context Protocol, Agent-to-Agent-Kommunikation, Schutzrichtlinien, Kostenkontrolle und Observability.

Inhaltsübersicht

• Seminarziele
• Inhalte
• Praxisübungen
• Zielgruppe
• Voraussetzungen
• Arbeitsweise

Seminarziele

Im Seminar werden folgende Kompetenzen aufgebaut:

• AI-Gateway- und Agent-Mesh-Szenarien in die Gravitee-Plattformarchitektur einordnen
• LLM-Proxy-APIs mit einheitlicher konsumierbarer Schnittstelle konfigurieren
• Tokenverbrauch, Limits, Guard Rails und Provider-Routing technisch steuern
• REST-APIs als MCP-Werkzeuge bereitstellen und MCP-Zugriffe absichern
• A2A-Proxys für kontrollierte Agentenkommunikation konfigurieren
• Nutzung, Fehler, Kostenindikatoren und Sicherheitsereignisse nachvollziehbar überwachen

Inhalte

Architektur für AI- und Agentenverkehr

• Rollen von Consumer, Gateway, LLM-Provider, MCP-Server und Agent
• Abgrenzung von LLM Proxy, MCP Proxy, Tool Server und A2A Proxy
• Synchroner, gestreamter und ereignisbasierter Verkehr
• Lizenz-, Umgebungs- und Sicherheitsvoraussetzungen technisch prüfen

LLM Proxy und Providerabstraktion

• V4-API-Erstellung und OpenAI-kompatible Konsumentenschnittstelle
• Provider- und Modellkonfiguration, Endpoints und Deployment
• Streaming, Tokenzählung, Nutzungsauswertung und Fehlerbehandlung
• Routing- und Ausweichmuster für mehrere Modelle oder Provider

Richtlinien für Sicherheit und Kosten

• Token Rate Limit, Prompt Token Tracking und klassische Traffic Limits
• Prompt Guard Rails, Eingabeprüfung und kontrollierte Ausgaben
• Shared Policy Groups für wiederverwendbare AI-Schutzketten
• Secrets, API-Schlüssel, Datenminimierung und Protokollierungsgrenzen

MCP bereitstellen und schützen

• MCP-Komponenten, Tools, Ressourcen und Interaktionsmodell
• Bestehende REST-APIs als MCP-Tools beziehungsweise MCP-Server verfügbar machen
• MCP Proxy, Zugriffskontrolle, Pläne und OAuth2-Absicherung
• Katalogisierung, Test und Fehlerdiagnose von Werkzeugaufrufen

A2A und Agentenkatalog

• A2A-Proxy für standardisierte Agent-zu-Agent-Kommunikation
• Agent Cards, Auffindbarkeit und kontrollierte Veröffentlichung
• Policies, Pläne, Subscriptions und Beobachtbarkeit von Agenteninteraktionen
• Grenzen, Fehlermuster und sichere Freigabeverfahren

Monitoring und Governance

• LLM- und MCP-Nutzungsdashboards sowie technische Kennzahlen
• Protokolle, Audit-Trail und Traces für AI-Anfragen
• Mandanten-, Anwendungs- und abonnementbezogene Kostenkontrolle
• Freigabeprozess für Modelle, Tools, Agenten und Richtlinien

Praxisübungen

1. Einen LLM Proxy anlegen, bereitstellen und mit einer kompatiblen Client-Anfrage prüfen.
2. Tokenlimits und Guard Rails konfigurieren und mit positiven sowie negativen Prompts testen.
3. Eine bestehende REST-API als MCP-Tool verfügbar machen und den Zugriff absichern.
4. Einen MCP Proxy mit Plan, Anwendung und Subscription testen.
5. Einen A2A Proxy konfigurieren und eine kontrollierte Agenteninteraktion nachvollziehen.
6. Nutzungsdaten, Fehler und Tokenverbrauch in Dashboards und Logs auswerten.

Zielgruppe

API Engineers, AI Platform Engineers, Security Engineers, Lösungsarchitekten und Entwickler agentischer Anwendungen.

Voraussetzungen

Praktische Grundlagen in Gravitee API Management sowie Verständnis von REST, OAuth 2.0 und grundlegenden LLM- beziehungsweise Agentenkonzepten.

Arbeitsweise

Die Themen werden durch fachliche Einordnung, Demonstrationen und aufeinander aufbauende Übungen am System vermittelt. Konfigurationen werden geprüft, mit Negativtests belastet und anhand von Logs, Statusinformationen oder Metriken nachvollzogen. Die Übungen bilden einen durchgängigen technischen Anwendungsfall und vermeiden isolierte Klickfolgen ohne betrieblichen Zusammenhang.