Nachdem wir den RAG-Flow nun konzeptionell verstanden haben, lass uns ihn Schritt für Schritt anhand eines praktischen Beispiels implementieren. Wir arbeiten uns durch alle fünf Stufen des RAG-Prozesses, vom Chunking von Text bis zum Finden relevanter Dokumente für Nutzeranfragen.
Einrichten der Vektordatenbank
Für diese Implementierung verwenden wir eine benutzerdefinierte VectorIndex-Klasse, die die grundlegende Funktionalität bietet, die wir zum Speichern und Durchsuchen von Embeddings benötigen. Die Klasse übernimmt die Vektorspeicherung, Distanzberechnungen (mittels Kosinus-Ähnlichkeit) und den Dokumentenabruf.
Die fünfstufige RAG-Implementierung
Lass uns jeden Schritt des RAG-Prozesses durchgehen:
Schritt 1: Den Text nach Abschnitten chunken
Zunächst müssen wir unser Quelldokument in überschaubare Chunks aufteilen. Wir verwenden denselben abschnittsbasierten Chunking-Ansatz wie zuvor:
chunks = chunk_by_section(text)Dies teilt unsere Datei report.md in logische Abschnitte auf, die wir einzeln verarbeiten können.
Schritt 2: Embeddings für jeden Chunk generieren
Als Nächstes wandeln wir jeden Text-Chunk in ein numerisches Embedding um, das seine semantische Bedeutung erfasst:
embeddings = generate_embedding(chunks)Diese Embeddings ermöglichen es uns, mathematische Vergleiche zwischen verschiedenen Textstücken durchzuführen.
Schritt 3: Embeddings in der Vektordatenbank speichern
Jetzt erstellen wir unseren Vektorspeicher und befüllen ihn mit unseren Embeddings und dem zugehörigen Text:
store = VectorIndex()
for embedding, chunk in zip(embeddings, chunks):
store.add_vector(embedding, {"content": chunk})Beachte, dass wir sowohl das Embedding als auch den ursprünglichen Textinhalt speichern. Das ist entscheidend, denn wenn wir später ähnliche Embeddings abrufen, benötigen wir Zugriff auf den tatsächlichen Text, nicht nur auf die numerischen Vektoren. Das Embedding allein ist für uns als Entwickler nicht nützlich – wir brauchen den menschenlesbaren Inhalt, den es repräsentiert.
Schritt 4: Ein Embedding für die Nutzeranfrage generieren
Wenn ein Nutzer eine Frage stellt, müssen wir seine Anfrage in denselben Embedding-Raum umwandeln wie unsere gespeicherten Dokumente:
user_embedding = generate_embedding("What did the software engineering dept do last year?")Schritt 5: Nach relevanten Dokumenten suchen
Schließlich durchsuchen wir unseren Vektorspeicher, um die relevantesten Chunks zu finden:
results = store.search(user_embedding, 2)
for doc, distance in results:
print(distance, "\n", doc["content"][0:200], "\n")Dies liefert die zwei ähnlichsten Chunks zusammen mit ihren Kosinus-Distanzwerten zurück.
Das obige Diagramm veranschaulicht, wie die Vektordatenbank eine Nutzeranfrage verarbeitet. Wenn wir eine Frage stellen, wird sie in einen Embedding-Vektor umgewandelt, und die Datenbank findet die gespeicherten Vektoren, die ihm im hochdimensionalen Raum am „nächsten" liegen.
Die Ergebnisse verstehen
Wenn wir dieses Beispiel mit der Anfrage zur Software-Engineering-Abteilung ausführen, erhalten wir zwei relevante Abschnitte zurück:
- Abschnitt 2: Software Engineering – Project Phoenix Stability Enhancements (Distanz: 0,71)
- Methodik-Abschnitt (Distanz: 0,72)
Je niedriger der Distanzwert, desto ähnlicher ist der Inhalt unserer Anfrage. Beide Ergebnisse sind relevant für unsere Frage, was die Software-Engineering-Abteilung erreicht hat.
Warum Inhalte zusammen mit Embeddings speichern
Du fragst dich vielleicht, warum wir den ursprünglichen Text zusammen mit jedem Embedding speichern. Der Grund ist praktisch: Embeddings sind lediglich Zahlenarrays, die für Menschen keine direkte Bedeutung haben. Wenn unsere Suche die ähnlichsten Embeddings zurückgibt, benötigen wir den tatsächlichen Textinhalt, um zu verstehen, was gefunden wurde, und um ihn bei der Generierung von Antworten zu verwenden.
Manche Implementierungen speichern nur eine ID, die auf den ursprünglichen Text zurückverweist, aber zur Vereinfachung speichern wir den Inhalt direkt bei jedem Vektor.
Was kommt als Nächstes
Diese Implementierung deckt den Kern-RAG-Workflow ab, aber es gibt noch Verbesserungen, die wir vornehmen können. In realen Anwendungen könntest du auf Szenarien stoßen, in denen dieser grundlegende Ansatz nicht wie erwartet funktioniert, und wir werden diese Verfeinerungen in den kommenden Abschnitten untersuchen.