Freelance AI Engineer aus Stuttgart
Ich entwickle interne KI-Assistenten, RAG-Systeme und agentische Workflows, die mit euren Daten, Tools und Berechtigungen zuverlässig im Alltag funktionieren – von Architektur und Integration bis Evaluation, Monitoring und Betrieb.
Kostenloses Erstgespräch · ca. 30 Minuten · direkte Einschätzung statt Sales-Prozess
Workshops und Projektstarts in Stuttgart →7+ Jahre Softwareentwicklung · ehem. CTO · produktive RAG- und Multi-Agenten-Projekte · direkte Zusammenarbeit ohne Agentur-Layer
Referenzen
KI-Projekte werden nicht durch ein gutes Demo-Video wertvoll, sondern durch zuverlässige Datenzugriffe, saubere Integration und einen stabilen Betrieb. Die folgenden Systeme wurden für reale Nutzer und bestehende Unternehmensprozesse entwickelt.
RAG & Wissensmanagement
Ein produktiv eingesetzter Chat-Assistent, der internes Wiki- und Referenzwissen durchsuchbar macht. Das System kombiniert semantische und klassische Suche, liefert nachvollziehbare Quellen und lässt sich über einen eigenen Admin-Bereich verwalten.
RAG-Projekt ansehen →Multi-Agenten-System
Ein internes System mit spezialisierten Agenten, mehreren Datenquellen und definierten Tools. Die Anwendung koordiniert komplexe Analyseabläufe, streamt Zwischenergebnisse und fügt sich in eine bestehende Enterprise-Systemlandschaft ein.
Multi-Agenten-Projekt ansehen →Vom Prototyp zum Produktivsystem
Viele KI-Projekte starten vielversprechend und bleiben trotzdem im Prototyp-Stadium stecken. In der Demo wirkt die Antwort gut – im echten Betrieb fehlen aber verlässliche Datenzugriffe, klare Berechtigungen, Qualitätsmessung und ein tragfähiger Betrieb.
Genau diese Lücke schließe ich. Ich entwickle KI-Systeme, die sich sauber in eure bestehende Software-Landschaft einfügen, nachvollziehbar getestet werden und auch nach dem Go-Live wartbar bleiben.
Ein produktives KI-System ist kein einzelner Prompt. Es ist Software mit Datenflüssen, Berechtigungen, Fehlerbehandlung, Tests und Monitoring.
Mitarbeitende finden Antworten in internen Dokumenten, Richtlinien und Fachsystemen – inklusive nachvollziehbarer Quellen.
KI kann Informationen prüfen, Systeme abfragen und vorbereitete Aktionen auslösen, ohne unkontrolliert handeln zu dürfen.
LLM-Funktionen werden direkt in Produkte, Portale oder interne Tools integriert, statt als separates Chatbot-Silo daneben zu stehen.
Antworten und Agentenabläufe werden mit realistischen Testfällen geprüft, damit Änderungen nicht unbemerkt die Qualität verschlechtern.
Typische Lösungen
Nicht jede KI-Anwendung braucht dieselbe Architektur. Je nach Aufgabe entsteht ein fokussierter Wissensassistent, ein integrierter Workflow oder ein agentisches System mit mehreren Datenquellen und Werkzeugen.
Durchsucht Wiki, PDFs, Richtlinien, Produktdokumentation oder andere interne Quellen und beantwortet Fragen mit Quellenbezug.
Typische Einsatzbereiche:
Verbindet Fachwissen und strukturierte Daten, bereitet Ergebnisse verständlich auf und unterstützt bei wiederkehrenden Analysen.
Typische Einsatzbereiche:
Bearbeitet mehrstufige Aufgaben, nutzt definierte APIs und interne Tools und holt bei kritischen Aktionen eine Freigabe ein.
Typische Einsatzbereiche:
Integriert Suche, Zusammenfassung, Klassifikation, Extraktion oder Assistenzfunktionen direkt in vorhandene Webanwendungen und Geschäftsprozesse.
Typische Einsatzbereiche:
Im Erstgespräch klären wir, ob ein RAG-System, ein agentischer Workflow oder eine klassische Automatisierung den größten Nutzen bringt.
Die passende Architektur
Die beste Lösung ist nicht automatisch die autonomste. Je klarer und stabiler ein Prozess ist, desto eher ist eine klassische Automatisierung günstiger, kontrollierbarer und leichter zu betreiben.
Meine Empfehlung richtet sich deshalb nicht nach dem aktuell spannendsten Begriff, sondern nach eurem konkreten Anwendungsfall.
Schritte und Regeln eindeutig feststehen.
Daten übertragen, Benachrichtigungen auslösen oder Dokumente nach festen Regeln verarbeiten.
Vorhersehbar, schnell, günstig und einfach zu testen.
Kann schlecht mit offenen, mehrdeutigen Aufgaben umgehen.
Antworten auf Basis eigener, veränderlicher Inhalte benötigt werden.
Ein interner Wissensassistent mit Quellenangaben.
Unternehmenswissen kann ohne eigenes Modelltraining in Antworten einfließen.
Die Qualität hängt stark von Daten, Suche, Chunking, Berechtigungen und Evaluation ab.
Ein Modell definierte Funktionen oder APIs aufrufen soll.
Kundendaten abfragen, eine Berechnung starten oder ein Ticket vorbereiten.
Verbindet Sprachmodelle kontrolliert mit bestehenden Systemen.
Tool-Aufrufe müssen validiert, eingeschränkt und überwacht werden.
Mehrere Schritte geplant, ausgewählt und koordiniert werden müssen.
Eine Analyse über mehrere Quellen mit Rückfragen, Prüfungen und Werkzeugen.
Kann flexibler auf komplexe Aufgaben und Zwischenergebnisse reagieren.
Erhöht Kosten, Latenz, Testaufwand und Sicherheitsfläche.
RAG holt Wissen in den Kontext. Tool Calling führt definierte Funktionen aus. Ein Agent koordiniert mehrere Schritte und Entscheidungen. Produktive Systeme kombinieren diese Bausteine oft – aber nur dort, wo die zusätzliche Komplexität einen echten Nutzen bringt.
Wenn ein deterministischer Workflow ausreicht, empfehle ich keinen Agenten. Das reduziert Kosten, Latenz, Sicherheitsrisiken und Wartungsaufwand.
Integration statt Insellösung
Der eigentliche Wert entsteht selten im Sprachmodell allein. Entscheidend ist, welche Daten das System sicher nutzen kann, welche Aktionen erlaubt sind und wie gut es in bestehende Prozesse eingebunden ist.
Ich entwickle keine isolierten Demo-Chatbots, sondern Anwendungen, die sich in eure bestehende Software- und Datenlandschaft einfügen.
Je nach Projekt erfolgt die Integration über direkte APIs, Event- und Queue-basierte Prozesse, Tool Calling oder standardisierte Schnittstellen wie MCP. Der konkrete Ansatz richtet sich nach Sicherheitsmodell, Betriebsumgebung und vorhandener Architektur.
Produktionsreife KI-Systeme
Ein KI-Prototyp lässt sich schnell bauen. Ein produktives System braucht zusätzlich klare Zugriffsregeln, reproduzierbare Tests und Transparenz darüber, was im Betrieb passiert.
Diese Themen werden nicht erst kurz vor dem Go-Live ergänzt, sondern von Anfang an in Architektur und Umsetzung berücksichtigt.
Ein KI-System darf nur auf die Daten und Funktionen zugreifen, die für den jeweiligen Nutzer und Anwendungsfall vorgesehen sind.
Dazu gehören unter anderem:
Prompt Injection lässt sich nicht durch einen einzelnen Filter lösen. Deshalb setze ich auf mehrere Schutzschichten: begrenzte Tool-Rechte, klare Vertrauensgrenzen, Validierung, Freigaben für risikoreiche Aktionen und Monitoring auffälliger Abläufe.
KI-Qualität darf nicht nur danach bewertet werden, ob einzelne Antworten gut wirken.
Je nach System prüfe ich unter anderem:
Mit einem festen Eval-Datensatz wird sichtbar, wo das System zuverlässig funktioniert, wo Grenzen liegen und ob eine Änderung die Qualität tatsächlich verbessert.
Nach dem Go-Live beginnt die kontinuierliche Beobachtung des Systems.
Relevante Betriebsdaten sind zum Beispiel:
So bleiben Kosten, Antwortqualität und Sicherheitsgrenzen nachvollziehbar – und Probleme werden sichtbar, bevor sie sich dauerhaft auf Nutzer oder Prozesse auswirken.
Ausgewählte Projekte
Die folgenden Projekte zeigen zwei unterschiedliche Arten produktiver KI-Anwendungen: einen fokussierten Wissensassistenten und ein komplexeres System mit mehreren Agenten, Datenquellen und Tools.
RAG · Bildung · Wissensmanagement
Wichtige Informationen lagen in unterschiedlichen Wiki- und Referenzbereichen. Mitarbeitende mussten Inhalte manuell suchen und konnten schwer nachvollziehen, welche Quelle für eine Antwort relevant war.
Ich entwickelte einen internen KI-Assistenten, der vorhandenes Wissen über eine kombinierte semantische und klassische Suche auffindbar macht. Antworten werden mit konkreten Quellen verknüpft, während ein eigener Admin-Bereich die Pflege und Überwachung des Systems ermöglicht.
Multi-Agenten · Automotive · Analyse
Komplexe Fragestellungen erforderten Informationen aus mehreren internen Quellen und Systemen. Ein einzelner Chatbot oder statischer Prompt hätte die notwendigen Analyse- und Entscheidungswege nicht zuverlässig abbilden können.
Ich arbeitete an einem internen System mit mehreren spezialisierten Agenten, die unterschiedliche Aufgaben, Datenquellen und Tools koordinieren. Die Webanwendung streamt Zwischenergebnisse und integriert sich in eine bestehende Enterprise-Infrastruktur.
Direkte Senior-Zusammenarbeit
Du sprichst von Anfang bis Ende mit mir – und ich setze das System auch selbst um. Es gibt keinen Wechsel vom Sales-Gespräch zu einem unbekannten Umsetzungsteam und kein Junior-Handoff nach der Konzeptphase.
Als ehemaliger CTO verbinde ich technische Umsetzung mit einem Verständnis für Priorisierung, Betrieb, Budget und interne Abstimmung.
Ich denke nicht nur in Modellen und Frameworks, sondern auch in Prozessen, Nutzeranforderungen, Wartbarkeit und wirtschaftlichem Nutzen.
Ich entwickle Backend, Schnittstellen, Datenflüsse und Oberflächen mit und kann KI-Funktionen direkt in bestehende Software integrieren.
Modell, Hosting und Framework werden nach euren Anforderungen ausgewählt – nicht nach einer Herstellerpartnerschaft oder einem bevorzugten Produkt.
Wenn RAG, ein Agent oder ein eigenes KI-System keinen ausreichenden Mehrwert bietet, sage ich das frühzeitig.
Tech Stack Python · FastAPI · LangGraph · LangChain · PostgreSQL · pgvector · React · TypeScript · Docker · Azure · AWS · Databricks · MLflow · DeepEval
Mehr über mich und meine Arbeitsweise →Von der Idee zum produktiven System
Der genaue Ablauf hängt vom Projekt ab. Die grundlegenden Schritte bleiben jedoch ähnlich: erst den Anwendungsfall verstehen, dann Qualität und Architektur definieren und anschließend kontrolliert in den Produktivbetrieb gehen.
Wir prüfen Ziel, Nutzer, Datenquellen, bestehende Systeme, Risiken und den erwarteten Nutzen. Dabei klären wir auch, ob überhaupt ein LLM oder Agent nötig ist.
Ich entwerfe Datenfluss, Integrationen, Berechtigungen und Betriebsmodell. Gleichzeitig legen wir fest, woran sich die Qualität des Systems messen lässt.
Wir bauen einen begrenzten, aber realistischen ersten Anwendungsfall – mit echten Daten, ersten Evals und einem klaren Pfad in den Produktivbetrieb.
Anbindung an Systeme, Authentifizierung, Rechte, Monitoring, Fehlerbehandlung und Human-in-the-Loop werden produktionsreif umgesetzt.
Nach dem Launch folgen kontrollierte Ausweitung, Feedback-Loops, Qualitätsmessung und auf Wunsch langfristige Betreuung.
Ich kann auch bestehende KI-Anwendungen analysieren, stabilisieren und auf den produktiven Betrieb vorbereiten.
Häufige Fragen
Ein produktives KI-System berührt nicht nur das Modell, sondern auch Daten, Berechtigungen, Integration und Betrieb. Hier findest du Antworten auf die häufigsten Fragen.
Beschreibe kurz euren Anwendungsfall und du erhältst eine direkte technische Einschätzung.
KI-Projekt besprechenEin RAG-System sucht passende Informationen aus euren eigenen Quellen und stellt sie dem Sprachmodell für die Antwort zur Verfügung. Ein Agent kann zusätzlich mehrere Schritte planen, Tools auswählen und Aktionen ausführen. Viele Systeme kombinieren beides – etwa einen Agenten, der zunächst Wissen abruft und anschließend eine definierte Aktion vorbereitet.
Wenn der Prozess klar, stabil und regelbasiert ist, ist eine klassische Automatisierung häufig günstiger, schneller und leichter zu kontrollieren. Auch für reine Wissensfragen reicht oft ein gut gebautes RAG-System. Ein Agent lohnt sich vor allem bei mehrstufigen Aufgaben mit echten Entscheidungen, Verzweigungen und Werkzeugen.
Ja. Typische Quellen sind SharePoint, Confluence, Google Drive, PDFs, Datenbanken, CRM, ERP, Ticketing-Systeme, Datenplattformen und interne APIs. Entscheidend ist nicht nur die technische Verbindung, sondern auch, dass bestehende Zugriffsrechte und Sicherheitsgrenzen erhalten bleiben.
Authentifizierung, Rollen, Dokument- oder Datensatzberechtigungen und begrenzte Tool-Rechte werden von Anfang an in die Architektur aufgenommen. Welches Hosting und welche Modellanbieter geeignet sind, hängt von Datenart, Sicherheitsanforderungen und vorhandener Infrastruktur ab.
Nein. Pauschal lässt sich das ohne Kenntnis des konkreten Anwendungsfalls nicht versprechen. Ich gestalte Datenflüsse, Hosting, Berechtigungen, Logging und Aufbewahrung datenschutzbewusst. Rechtliche Grundlagen, Verträge und mögliche Datenschutz-Folgenabschätzungen sollten mit Datenschutzbeauftragten oder Legal abgestimmt werden.
Vollständig ausschließen lassen sie sich nicht. RAG, Quellenangaben, klare Antwortregeln und gute Daten reduzieren das Risiko. Zusätzlich werden Retrieval und Antwortqualität mit realistischen Testfällen evaluiert. Bei kritischen Entscheidungen sollte das System Ergebnisse belegen oder eine menschliche Prüfung verlangen.
Je nach System messen wir unter anderem Retrieval-Relevanz, Groundedness, Vollständigkeit, korrekte Tool-Nutzung und erfolgreiche Aufgabenerledigung. Ein fester Eval-Datensatz hilft, Regressionen bei Änderungen an Prompts, Modellen, Daten oder Workflows zu erkennen.
Je nach Anforderungen kann die Anwendung in einer bestehenden Cloud-Umgebung, einer EU-Region, einer Private Cloud oder auf eigener Infrastruktur betrieben werden. Die passende Architektur hängt von Daten, Integrationen, Betriebsanforderungen, Kosten und internen Vorgaben ab.
Das hängt vor allem von Datenquellen, Integrationen, Berechtigungen, Qualitätsanforderungen und Betriebsmodell ab. Ein klar begrenzter Pilot lässt sich häufig als definierter Scope planen. Nach dem Erstgespräch erhältst du eine transparente Einschätzung zu Aufwand, Phasen und sinnvollem Einstieg.
Ein begrenzter Pilot kann je nach Datenlage und Integrationen innerhalb weniger Wochen entstehen. Ein produktives System mit mehreren Datenquellen, Berechtigungen und betrieblichen Anforderungen benötigt entsprechend mehr Zeit. Wichtig ist, nicht nur eine schnelle Demo zu bauen, sondern früh einen realistischen Weg in den Betrieb zu definieren.
Die technische Verantwortung und Umsetzung liegen direkt bei mir. Für größere Vorhaben kann ich gezielt mit bestehenden Kundenteams oder spezialisierten Partnern zusammenarbeiten, ohne die Verantwortung an ein wechselndes Agenturteam abzugeben.
Ja. Ich kann bestehende RAG-, Chatbot- oder Agenten-Lösungen analysieren und prüfen, wo Probleme bei Architektur, Retrieval, Qualität, Sicherheit oder Betrieb liegen. Anschließend entsteht ein konkreter Plan für Stabilisierung, Weiterentwicklung oder Neuaufbau.
Erster sinnvoller Schritt
Ob konkrete Anforderung, bestehender Prototyp oder erste Idee: Im kostenlosen Erstgespräch klären wir, ob ein RAG-System, ein Agent, eine klassische Automatisierung oder eine Kombination daraus den größten Nutzen bringt.
