Seminar KI-Agenten mit europäischen Modellen sicher entwickeln

KI-Agenten können Anfragen über mehrere Schritte bearbeiten und Werkzeuge einer Fachanwendung aufrufen. Das Seminar untersucht, welche Aufgaben eine solche Steuerung rechtfertigen und wo ein fest definierter Ablauf leichter überprüfbar bleibt. Die Entwicklung konzentriert sich auf begrenzte Handlungsspielräume, nachvollziehbare Zustände und klare Freigaben.

Ein europäisches Modell wird mit einem kontrollierten Satz von Werkzeugen verbunden. Haystack dient als mögliches Framework für die Anwendungssteuerung. Tool-Calling, strukturierte Ausgaben und verfügbare Modellfähigkeiten werden vor der Integration überprüft. Die Übungen verwenden ausschließlich simulierte Geschäftsvorgänge: Fehlerhafte Argumente, doppelte Aktionen und manipulierte Eingangsdaten müssen ohne unkontrollierte Außenwirkung behandelt werden.

Zielgruppe

Softwareentwicklung, Automatisierung, DevOps, KI-Architektur und technische Integrationsverantwortliche.

Voraussetzungen

Python- und API-Kenntnisse, grundlegendes Verständnis von Authentisierung und Tests sowie Erfahrung mit einer einfachen LLM-Anwendung. RAG-Kenntnisse sind hilfreich.

Inhaltsübersicht

• Agentenarchitektur und Aufgabengrenzen
• Werkzeuge und Eingabeprüfung
• Zustand und verlässliche Ausführung
• Freigaben und Schutz vor Manipulation
• Tests und Fehlerdiagnose
• Integrationswerkstatt

Seminarinhalte

Agentenarchitektur und Aufgabengrenzen

• Deterministische Workflows, RAG und agentische Steuerung anhand eines Serviceprozesses vergleichen.
• Erlaubte Aktionen, Abbruchbedingungen und maximale Bearbeitungsschritte festlegen.
• Modellfähigkeit für Werkzeugaufrufe und strukturierte Parameter mit einem kleinen Test prüfen.

Werkzeuge und Eingabeprüfung

• Werkzeugbeschreibungen und Parameterschemata präzise definieren.
• Argumente serverseitig validieren und fachliche Regeln unabhängig vom Modell durchsetzen.
• Lesende und schreibende Funktionen mit getrennten Rechten und Konten bereitstellen.

Zustand und verlässliche Ausführung

• Anwendungszustand, Gesprächsverlauf und fachliche Vorgänge getrennt speichern.
• Zeitüberschreitungen, Wiederholungen und Idempotenz für Werkzeugaufrufe umsetzen.
• Schrittzahl, Tokenverbrauch und Laufzeit begrenzen; eine kontrollierte Eskalation vorsehen.

Freigaben und Schutz vor Manipulation

• Ändernde Aktionen mit einer menschlichen Freigabe und einer Vorschau der konkreten Wirkung verbinden.
• Dokumentinhalte, Werkzeugantworten und Nutzereingaben als getrennte Vertrauensbereiche behandeln.
• Ausgehende Netzwerkziele, Datenzugriffe und Werkzeugumfang auf den erforderlichen Bereich begrenzen.

Tests und Fehlerdiagnose

• Werkzeuge mit Testdoppeln prüfen, bevor eine Integration an echte Systeme erfolgt.
• Aufgabenerfolg, unzulässige Aktionen und Abbrüche als getrennte Messgrößen erfassen.
• Manipulierte Dokumente, ungültige Argumente und fehlerhafte Werkzeugantworten in Regressionstests aufnehmen.

Integrationswerkstatt

• Einen Agenten für die Vorbereitung fiktiver Servicevorgänge zusammensetzen.
• Eine Freigabe zwischen Entwurf und simulierter Änderung erzwingen.
• Zustand, Protokoll und Rückfallpfad gemeinsam prüfen und mit einem festen Workflow vergleichen.

Praxisübungen

1. Zwei ausschließlich lesende Werkzeuge erstellen, Parameterschemata prüfen und ungültige Werte serverseitig zurückweisen.
2. Eine simulierte schreibende Aktion an eine konkrete menschliche Freigabe binden und eine verweigerte Freigabe testen.
3. Doppelte Aufrufe, Zeitüberschreitungen und einen Abbruch nach dem zulässigen Schrittlimit auslösen.
4. Eine indirekte Prompt-Injection über eine Werkzeugantwort einbringen und prüfen, ob Rechte und Aktionsgrenzen wirksam bleiben.

Schulungsumgebung

Der Kunde stellt die Schulungsumgebung: Python-Arbeitsplätze, kompatibles Framework, getesteten europäischen Modellendpunkt mit benötigten Ausgabefähigkeiten sowie isolierte Test-APIs. Externe Geschäftssysteme werden durch Testdoppel oder freigegebene Sandboxen ersetzt.

Einordnung im Seminarprogramm

Die empfohlenen Lernpfade und ergänzenden Seminare stehen auf der Themenübersicht Souveräne europäische KI.