Überblick
Der Endkunde von VoiceAgenten ist eine deutsche Schule mit einem etablierten internen Wissensmanagementsystem – Wikis, Richtlinien und interne Dokumentation, die Lehrkräfte und Mitarbeitende im Alltag brauchen. Die Inhalte waren vorhanden, aber verteilt: Wer eine konkrete Frage zu einer Schulregelung oder einer rechtlichen Bestimmung hatte, musste sich manuell durch Wiki-Seiten und Referenzwerke arbeiten.
Gemeinsam mit VoiceAgenten habe ich darauf einen produktiv eingesetzten KI-Chat-Assistenten aufgebaut: Lehrkräfte stellen Fragen in natürlicher Sprache und erhalten Antworten mit nachvollziehbaren Quellenangaben – aus dem internen Wiki und, wenn relevant, aus einem juristischen Referenzwerk. Was früher Suchen und Querverweise bedeutete, ist heute ein Gespräch.
Meine Rolle
Ich wurde von VoiceAgenten, die den Auftrag mit der Schule hielten, als Freelance-KI-Ingenieur hinzugezogen und habe das System eigenständig von der Architektur bis zum produktiven Betrieb umgesetzt – Ingestion-Pipelines, Hybrid-Retrieval, Streaming-Chat-API, React-Frontend, Authentifizierung und Admin-Bereich, Observability und automatisiertes Docker-Deployment.
Umfang
Das System verbindet zwei Wissensquellen in einer gemeinsamen Chat-Oberfläche. Nächtlich läuft eine automatisierte Ingestion über das login-geschützte HumHub-Wiki: Session-Authentifizierung, Extraktion der eigentlichen Artikelinhalte, Nachverfolgung verlinkter Ressourcen und Aufteilung in durchsuchbare Text-Chunks mit Metadaten. Parallel dazu wird ein juristisches Referenzwerk als PDF in abschnittsbewusste Chunks zerlegt – mit Ausgabejahr, Seitenbereichen und Abschnittspfaden in einer eigenen Vektortabelle.
Auf dieser Basis arbeitet eine Hybrid-Suche in PostgreSQL mit pgvector: Vektorsuche und deutsche Volltextsuche werden über einen deterministischen Reranker zusammengeführt. Ein Routing zwischen Wiki- und Juristik-Korpus sorgt dafür, dass rechtliche Inhalte nur dann einfließen, wenn die Anfrage das nahelegt – etwa über Begriffe wie „§“, „Gesetz“ oder „Elternzeit“. Im Chat werden Folgefragen gegen den Verlauf zu eigenständigen Suchanfragen verdichtet, Antworten per Server-Sent Events gestreamt und jede Aussage mit strukturierten Quellen belegt. Relevante Treffer fehlen, sagt der Assistent das offen, statt zu halluzinieren.
Darüber hinaus gibt es persistente Chat-Verläufe, Session-basierte Authentifizierung mit Argon2, einen Admin-Bereich mit Benutzerverwaltung und CSV-Import sowie eine Typer-CLI für Betriebsaufgaben. Optional läuft Langfuse als Self-Hosted-Tracing, sodass Nutzerfeedback direkt an die jeweilige Antwort-Generierung gekoppelt werden kann.
Technische Highlights
Hybrid-Suche direkt auf Postgres. Statt einer separaten Vektordatenbank kombiniert das System pgvector (Kosinus-Distanz) mit deutscher Volltextsuche (websearch_to_tsquery) und einem eigenen Reranker, der Vektor-Score, Keyword-Ranking, Begriffsüberlappung im Inhalt und in Überschriften gewichtet zusammenführt.
Authentifiziertes Scraping eines Legacy-Wikis. Das HumHub-Wiki erfordert CSRF-Token-Extraktion und Session-Login. Die Pipeline filtert Navigation und Kommentare heraus, folgt Outbound-Links und dedupliziert Inhalte – alles mit deterministischen Tests gegen gemockte HTTP-Transports abgesichert.
Multi-Korpus-Retrieval mit Routing. Wiki-Wissen und juristisches Referenzmaterial werden nur dann gemeinsam ausgespielt, wenn die Anfrage rechtliche Signale trägt oder der Juristik-Score einen höheren Schwellenwert überschreitet. So bleiben Alltagsantworten sauber, Rechtsfragen aber fundiert.
Produktionsreifer Chat mit Quellen. Server-Sent Events für Echtzeit-Streaming, LLM-basierte Verdichtung von Folgefragen, strukturierte Zitate (Wiki-URL und Titel oder Buchausgabe, Seiten und Abschnitt) und explizites Verhalten bei fehlendem Kontext.
Betrieb und Observability. Alembic-Migrationen, nächtliche Re-Ingestion per Cron im App-Container, selbst gehostetes Langfuse-Tracing mit Trace-IDs für Nutzerfeedback und Deployment als Single-Image-Setup hinter Traefik mit Let’s-Encrypt-TLS.
Ergebnis & Wirkung
Der Kunde ist sehr zufrieden – und die Lehrkräfte nutzen den Assistenten im Alltag intensiv. Interne Richtlinien und rechtliche Fragen lassen sich heute in natürlicher Sprache stellen und kommen mit nachvollziehbaren Quellen zurück. Was als Notebook-Prototyp begonnen hätte, ist ein vollständiges RAG-Produkt: von der Ingestion über Hybrid-Retrieval und Streaming-Generierung bis zur Oberfläche und zum produktiven Betrieb – auf Deutsch abgestimmt und für den Schulalltag gebaut.