Zielsetzung
Dieses Seminar zeigt, wie mit KServe komplexe Inferenzpfade deklarativ aufgebaut werden. Im Fokus stehen mehrstufige Modellketten, Verzweigungen, Ensembles und Routing-Muster, die für reale Produktionsszenarien erforderlich sind.
Zielgruppe
Geeignet ist das Seminar für Teams, die nicht nur einzelne Modelle bereitstellen, sondern gesamte Entscheidungs-, Vorverarbeitungs- oder Ensemble-Flüsse standardisieren und betreiben möchten.
Voraussetzungen
Erwartet werden Kenntnisse zu KServe-Grundobjekten, Request-Flows und typischen Serving-Schnittstellen. Praktische Erfahrung mit einem ersten InferenceService ist von Vorteil.
Inhalte
- Einordnung von InferenceGraph in KServe und Abgrenzung zu einfachen Predictor-Deployments
- Router-Typen wie Sequence, Switch, Splitter und Ensemble sowie deren Einsatzmuster
- Verkettung mehrerer Modelle zu fachlichen Inferenzpipelines
- Traffic Splitting, schrittweise Einführungen und risikominimierte Änderungsmuster
- Canary-Strategien und revisionsbasierte Rollouts im Zusammenspiel mit serverlosen Deployments
- Fehlerpfade, Rückfallebenen, Timeout-Design und Beobachtbarkeit komplexer Graphen
- Batching, Latenzbudget und Ressourcenplanung für mehrstufige Pipelines
- Designrichtlinien für robuste und wartbare Produktionsgraphen
Praxisanteil
Im Übungsteil wird ein mehrstufiger Graph aufgebaut, mit Routing-Regeln versehen und in seinem Laufzeitverhalten unter verschiedenen Last- und Fehlerszenarien überprüft.
Fachbereichsleiter / Leiter der Trainer / Ihre Ansprechpartner
-
Lucas Beich
Telefon: + 49 (221) 74740055
E-Mail: lucas.beich@seminar-experts.de -
Paul Goldschmidt
Telefon: + 49 (221) 74740055
E-Mail: paul.goldschmidt@seminar-experts.de
Seminardetails
| Dauer: | 2 Tage ca. 6 h/Tag, Beginn 1. Tag: 10:00 Uhr, weitere Tage 09:00 Uhr |
| Preis: |
Öffentlich oder Live Stream: € 1.198 zzgl. MwSt. Inhaus: € 3.400 zzgl. MwSt. |
| Teilnehmeranzahl: | min. 2 - max. 8 |
| Teilnehmer: | AI-Architekten, MLOps-Teams, Plattformentwickler, Anwendungsarchitekten |
| Voraussetzungen: | Grundlagen zu InferenceService, Model Serving und HTTP/gRPC-Schnittstellen |
| Standorte: | Stream Live, Inhaus/Firmenseminar, Berlin, Bremen, Darmstadt, Dresden, Erfurt, Essen, Flensburg, Frankfurt, Freiburg, Friedrichshafen, Hamburg, Hamm, Hannover, Jena, Kassel, Köln, Konstanz, Leipzig, Luxemburg, Magdeburg, Mainz, München, Münster, Nürnberg, Paderborn, Potsdam, Regensburg, Rostock, Stuttgart, Trier, Ulm, Wuppertal, Würzburg |
| Methoden: | Vortrag, Demonstrationen, praktische Übungen am System |
| Seminararten: | Öffentlich, Webinar, Inhaus, Workshop - Alle Seminare mit Trainer vor Ort, Webinar nur wenn ausdrücklich gewünscht |
| Durchführungsgarantie: | ja, ab 2 Teilnehmern |
| Sprache: | Deutsch - bei Firmenseminaren ist auch Englisch möglich |
| Seminarunterlage: | Dokumentation auf Datenträger oder als Download |
| Teilnahmezertifikat: | ja, selbstverständlich |
| Verpflegung: | Kalt- / Warmgetränke, Mittagessen (wahlweise vegetarisch) |
| Support: | 3 Anrufe im Seminarpreis enthalten |
| Barrierefreier Zugang: | an den meisten Standorten verfügbar |
| Weitere Informationen unter + 49 (221) 74740055 |
Seminartermine
Die Ergebnissliste kann durch Anklicken der Überschrift neu sortiert werden.
