Entwicklung eines KI-gestützten Chatbot

‍85% Kosteneinsparung durch Entwicklung eines GenAI-gestützten Chatbot in Rekordzeit

Unser Kunde und Partner Hetzner stand vor der Herausforderung, einen bestehenden extern betriebenen Chatbot abzulösen, da dieser technisch nicht weiterentwickelt werden konnte. Zudem führte das bisherige Setup zu hohen laufenden Kosten. Das Ziel bestand darin, eine leistungsfähige, skalierbare und vollständig kontrollierbare Chatbot-Lösung zu entwickeln, die sich nahtlos in die bestehende Systemlandschaft integriert, die Supportprozesse effizienter gestaltet und den Kunden gleichzeitig von externen Lösungsanbietern unabhängig macht.

Highlights der Zusammenarbeit

Im Rahmen des gemeinsamen Projekts zwischen Hetzner und CodeCamp:N wurde innerhalb von nur sieben Monaten ein vollständig neuer, GenAI-gestützter Chatbot entwickelt und produktiv eingeführt. Besonders hervorzuheben ist die schnelle Time-to-Market: Der MVP konnte bereits nach knapp vier Monaten live geschaltet werden. Durch die enge, technisch fokussierte Zusammenarbeit konnte der bisherige Drittanbieter frühzeitig und effizient abgelöst werden. Ergebnis: 85 % weniger Kosten, 3x mehr Chatvolumen

Eingesetzte Technologien und Methoden

‍Zum Einsatz kam eine moderne, modulare Systemarchitektur mit folgenden Kernkomponenten:

• Einlesepipeline zur strukturierten Verarbeitung und kontinuierlichen Aktualisierung von Dokumentationsinhalten
• Retrieval-Service mit hybrider Suche (Vektor- und Volltextsuche) auf Basis von OpenSearch
• Chatbot-Backend mit Agent-Loop-Architektur und Tool-Anbindung
• Evaluierungs-Service zur systematischen Messung und Verbesserung der Antwortqualität
• Flexibles Web-Frontend-Widget zur einfachen Integration in verschiedene Webplattformen

Ergänzend wurden iterative Entwicklungsansätze und kontinuierliche Qualitätsverbesserung durch Feedback- und Review-Prozesse angewendet.

Anforderungen

‍Die zentrale Anforderung bestand in der Ablösung eines bestehenden externen Chatbot-Systems, das weder auf eigener Infrastruktur betrieben noch sinnvoll weiterentwickelt werden konnte. Gleichzeitig mussten hohe Anforderungen an Skalierbarkeit, Antwortqualität und Integrationsfähigkeit erfüllt werden. Ein weiterer Fokus lag auf der Reduktion nicht authentifizierter Support-Anfragen, die zuvor häufig nicht effizient bearbeitet werden konnten.

Lösung

‍Es wurde ein vollständig neu entwickelter, GenAI-gestützter Chatbot realisiert, der flexibel auf eigener Infrastruktur betrieben werden kann. Durch den Einsatz hybrider Suchverfahren und einer Agent-Loop-Architektur konnte eine hohe Antwortqualität sichergestellt werden.
Zusätzlich wurden spezifische Funktionen integriert:

• Kontextabhängige Toolgruppen für unterschiedliche Websites
• Direkte Ticket-Erstellung im Chatbot als Ersatz für das öffentliche Support-Formular
• Individuell angepasstes Review-Frontend zur Qualitätssicherung

‍Ergebnis

‍Die Projektziele wurden nicht nur erreicht, sondern in zentralen Bereichen übertroffen:

• Produktiver Go-Live des MVP bereits nach ca. vier Monaten und dadurch Einsparung von 22 % des Projektvolumens
• Verdreifachung des monatlichen Chatvolumens seit Einführung
• Reduktion nicht authentifizierter Tickets um ca. 66 % direkt nach Launch
• Einsparung von rund 85 % der laufenden Kosten im Vergleich zur vorherigen Lösung

Zusätzlich bleiben die laufenden Betriebskosten (Infrastruktur und AI-Nutzung) auf einem niedrigen Niveau und ermöglichen eine nachhaltige Weiterentwicklung.

Über die Zusammenarbeit

‍Die Zusammenarbeit zwischen Hetzner und CodeCamp:N war geprägt von direkter, effizienter Abstimmung auf technischer Ebene. Durch den Verzicht auf unnötigen organisatorischen Overhead konnte eine schnelle und zielgerichtete Umsetzung sichergestellt werden.

‍