Seminar Supabase – KI-Anwendungen, pgvector und Retrieval-Augmented Generation

Das Seminar entwickelt eine abgesicherte Retrieval-Augmented-Generation-Lösung mit PostgreSQL und pgvector. Dokumentaufbereitung, Embeddings, Vektorsuche, hybride Suche, RLS, Indexierung, Evaluation und Betriebsaspekte werden als zusammenhängende Pipeline behandelt.

Eine mandantenfähige Wissenssuche nimmt Dokumente auf, erzeugt und speichert Embeddings, liefert geprüfte Treffer, erzeugt kontextgebundene Antworten und misst die Qualität reproduzierbar.

Inhaltsübersicht

• 1. Anwendungsfall und RAG-Architektur definieren
• 2. Dokumente und Embeddings modellieren
• 3. Vektorsuche und Indexe optimieren
• 4. Hybride Suche und Zugriffsschutz kombinieren
• 5. Aufnahme- und RAG-Pipeline umsetzen
• 6. Qualität, Sicherheit und Betrieb messen

1. Anwendungsfall und RAG-Architektur definieren

In diesem Abschnitt werden Quellen, Nutzergruppen, Antwortgrenzen, Aktualität, Datenschutz, Latenz und Qualitätskriterien für eine wissensgestützte Anwendung festlegen. Ziel ist ein nachvollziehbares Vorgehen, das sich in Entwicklungs-, Test- und Betriebsumgebungen wiederholen lässt.

Schritt-für-Schritt-Vorgehen

1. Schritt 1 – Ausgangslage erfassen: Fachliche Anforderungen, betroffene Daten, Rollen, Schnittstellen und Qualitätskriterien für „Anwendungsfall und RAG-Architektur definieren“ in einer Arbeitsmatrix festhalten.
2. Schritt 2 – Zielzustand planen: Quellen, nutzergruppen, antwortgrenzen, aktualität, datenschutz, latenz und qualitätskriterien für eine wissensgestützte anwendung festlegen; dabei Abhängigkeiten, Sicherheitsgrenzen, Fehlerfälle und Rückfallmöglichkeiten ausdrücklich dokumentieren.
3. Schritt 3 – Umsetzung durchführen: Eine architektur mit aufnahme, segmentierung, embedding, retrieval, generierung, quellenbezug und evaluationspfad entwerfen.
4. Schritt 4 – Prüfung und Nachweis: Positiv-, Negativ- und Wiederholungsfall ausführen, Soll- und Ist-Ergebnis vergleichen, Abweichungen korrigieren und den fertigen Standard versioniert dokumentieren.

Prüfpunkt: Die Umsetzung ist erst abgeschlossen, wenn der vorgesehene Zugriff funktioniert, unzulässige Varianten abgewiesen werden, der Fehlerfall nachvollziehbar bleibt und ein zweiter Durchlauf dasselbe Ergebnis liefert.

2. Dokumente und Embeddings modellieren

In diesem Abschnitt werden Dokument, Version, Abschnitt, Metadaten, Mandant, Embedding-Modell und Vektordimension konsistent in PostgreSQL abbilden. Ziel ist ein nachvollziehbares Vorgehen, das sich in Entwicklungs-, Test- und Betriebsumgebungen wiederholen lässt.

Schritt-für-Schritt-Vorgehen

1. Schritt 1 – Ausgangslage erfassen: Fachliche Anforderungen, betroffene Daten, Rollen, Schnittstellen und Qualitätskriterien für „Dokumente und Embeddings modellieren“ in einer Arbeitsmatrix festhalten.
2. Schritt 2 – Zielzustand planen: Dokument, version, abschnitt, metadaten, mandant, embedding-modell und vektordimension konsistent in postgresql abbilden; dabei Abhängigkeiten, Sicherheitsgrenzen, Fehlerfälle und Rückfallmöglichkeiten ausdrücklich dokumentieren.
3. Schritt 3 – Umsetzung durchführen: Tabellen mit pgvector-spalte, integritätsregeln, metadaten und nachvollziehbarer modellversionierung anlegen.
4. Schritt 4 – Prüfung und Nachweis: Positiv-, Negativ- und Wiederholungsfall ausführen, Soll- und Ist-Ergebnis vergleichen, Abweichungen korrigieren und den fertigen Standard versioniert dokumentieren.

Prüfpunkt: Die Umsetzung ist erst abgeschlossen, wenn der vorgesehene Zugriff funktioniert, unzulässige Varianten abgewiesen werden, der Fehlerfall nachvollziehbar bleibt und ein zweiter Durchlauf dasselbe Ergebnis liefert.

3. Vektorsuche und Indexe optimieren

In diesem Abschnitt werden Distanzmaß, Top-k, Filter, exakte und approximative Suche sowie Indexparameter auf Datenmenge und Qualitätsziel abstimmen. Ziel ist ein nachvollziehbares Vorgehen, das sich in Entwicklungs-, Test- und Betriebsumgebungen wiederholen lässt.

Schritt-für-Schritt-Vorgehen

1. Schritt 1 – Ausgangslage erfassen: Fachliche Anforderungen, betroffene Daten, Rollen, Schnittstellen und Qualitätskriterien für „Vektorsuche und Indexe optimieren“ in einer Arbeitsmatrix festhalten.
2. Schritt 2 – Zielzustand planen: Distanzmaß, top-k, filter, exakte und approximative suche sowie indexparameter auf datenmenge und qualitätsziel abstimmen; dabei Abhängigkeiten, Sicherheitsgrenzen, Fehlerfälle und Rückfallmöglichkeiten ausdrücklich dokumentieren.
3. Schritt 3 – Umsetzung durchführen: Suchfunktionen erstellen, geeigneten vektorindex aufbauen und genauigkeit sowie laufzeit mit einem testkorpus vergleichen.
4. Schritt 4 – Prüfung und Nachweis: Positiv-, Negativ- und Wiederholungsfall ausführen, Soll- und Ist-Ergebnis vergleichen, Abweichungen korrigieren und den fertigen Standard versioniert dokumentieren.

Prüfpunkt: Die Umsetzung ist erst abgeschlossen, wenn der vorgesehene Zugriff funktioniert, unzulässige Varianten abgewiesen werden, der Fehlerfall nachvollziehbar bleibt und ein zweiter Durchlauf dasselbe Ergebnis liefert.

4. Hybride Suche und Zugriffsschutz kombinieren

In diesem Abschnitt werden semantische Treffer, Volltextsuche, Metadatenfilter und RLS für mandanten- und benutzerspezifische Wissensräume zusammenführen. Ziel ist ein nachvollziehbares Vorgehen, das sich in Entwicklungs-, Test- und Betriebsumgebungen wiederholen lässt.

Schritt-für-Schritt-Vorgehen

1. Schritt 1 – Ausgangslage erfassen: Fachliche Anforderungen, betroffene Daten, Rollen, Schnittstellen und Qualitätskriterien für „Hybride Suche und Zugriffsschutz kombinieren“ in einer Arbeitsmatrix festhalten.
2. Schritt 2 – Zielzustand planen: Semantische treffer, volltextsuche, metadatenfilter und rls für mandanten- und benutzerspezifische wissensräume zusammenführen; dabei Abhängigkeiten, Sicherheitsgrenzen, Fehlerfälle und Rückfallmöglichkeiten ausdrücklich dokumentieren.
3. Schritt 3 – Umsetzung durchführen: Eine hybride ranking-funktion implementieren und mit berechtigten, unberechtigten sowie mehrdeutigen anfragen testen.
4. Schritt 4 – Prüfung und Nachweis: Positiv-, Negativ- und Wiederholungsfall ausführen, Soll- und Ist-Ergebnis vergleichen, Abweichungen korrigieren und den fertigen Standard versioniert dokumentieren.

Prüfpunkt: Die Umsetzung ist erst abgeschlossen, wenn der vorgesehene Zugriff funktioniert, unzulässige Varianten abgewiesen werden, der Fehlerfall nachvollziehbar bleibt und ein zweiter Durchlauf dasselbe Ergebnis liefert.

5. Aufnahme- und RAG-Pipeline umsetzen

In diesem Abschnitt werden Chunking, Wiederholbarkeit, Modellaufruf, Fehlerbehandlung, Queue, Edge Function und Aktualisierung der Embeddings orchestrieren. Ziel ist ein nachvollziehbares Vorgehen, das sich in Entwicklungs-, Test- und Betriebsumgebungen wiederholen lässt.

Schritt-für-Schritt-Vorgehen

1. Schritt 1 – Ausgangslage erfassen: Fachliche Anforderungen, betroffene Daten, Rollen, Schnittstellen und Qualitätskriterien für „Aufnahme- und RAG-Pipeline umsetzen“ in einer Arbeitsmatrix festhalten.
2. Schritt 2 – Zielzustand planen: Chunking, wiederholbarkeit, modellaufruf, fehlerbehandlung, queue, edge function und aktualisierung der embeddings orchestrieren; dabei Abhängigkeiten, Sicherheitsgrenzen, Fehlerfälle und Rückfallmöglichkeiten ausdrücklich dokumentieren.
3. Schritt 3 – Umsetzung durchführen: Eine idempotente aufnahmefunktion und einen anfragepfad entwickeln, der nur freigegebene kontexte an das sprachmodell übergibt.
4. Schritt 4 – Prüfung und Nachweis: Positiv-, Negativ- und Wiederholungsfall ausführen, Soll- und Ist-Ergebnis vergleichen, Abweichungen korrigieren und den fertigen Standard versioniert dokumentieren.

Prüfpunkt: Die Umsetzung ist erst abgeschlossen, wenn der vorgesehene Zugriff funktioniert, unzulässige Varianten abgewiesen werden, der Fehlerfall nachvollziehbar bleibt und ein zweiter Durchlauf dasselbe Ergebnis liefert.

6. Qualität, Sicherheit und Betrieb messen

In diesem Abschnitt werden Retrieval-Qualität, Antworttreue, Halluzinationen, Prompt-Injection, Kosten, Latenz und Drift mit festen Datensätzen überwachen. Ziel ist ein nachvollziehbares Vorgehen, das sich in Entwicklungs-, Test- und Betriebsumgebungen wiederholen lässt.

Schritt-für-Schritt-Vorgehen

1. Schritt 1 – Ausgangslage erfassen: Fachliche Anforderungen, betroffene Daten, Rollen, Schnittstellen und Qualitätskriterien für „Qualität, Sicherheit und Betrieb messen“ in einer Arbeitsmatrix festhalten.
2. Schritt 2 – Zielzustand planen: Retrieval-qualität, antworttreue, halluzinationen, prompt-injection, kosten, latenz und drift mit festen datensätzen überwachen; dabei Abhängigkeiten, Sicherheitsgrenzen, Fehlerfälle und Rückfallmöglichkeiten ausdrücklich dokumentieren.
3. Schritt 3 – Umsetzung durchführen: Einen evaluationskatalog mit goldfragen, grenzfällen, sicherheitsprüfungen, metriken und freigabeschwellen aufbauen.
4. Schritt 4 – Prüfung und Nachweis: Positiv-, Negativ- und Wiederholungsfall ausführen, Soll- und Ist-Ergebnis vergleichen, Abweichungen korrigieren und den fertigen Standard versioniert dokumentieren.

Prüfpunkt: Die Umsetzung ist erst abgeschlossen, wenn der vorgesehene Zugriff funktioniert, unzulässige Varianten abgewiesen werden, der Fehlerfall nachvollziehbar bleibt und ein zweiter Durchlauf dasselbe Ergebnis liefert.