KI-Assistent mit eigenen Firmendaten: Wie Unternehmen ihr Wissen nutzbar machen

Die Frage kommt inzwischen in fast jedem Erstgespräch: "Kann das Ding auch auf unsere eigenen Daten zugreifen?" Die kurze Antwort: ja. Die längere Antwort ist der eigentlich interessante Teil – weil sie erklärt, warum manche Projekte in vier Wochen laufen und andere nach einem halben Jahr immer noch nicht.

Warum ein Standard-Chatbot Ihrem Kunden nicht weiterhilft

Ein Sprachmodell wie GPT hat gelernt, wie Sprache funktioniert, und dabei einen gewaltigen Berg an öffentlichem Wissen mitgenommen. Was es nicht kennt: Ihre Produktvarianten, Ihre Lieferzeiten, Ihre Garantiebedingungen, den Unterschied zwischen Ihrem Tarif M und Tarif L.

Das ist der Punkt, an dem viele Unternehmen ihre erste Enttäuschung erleben. Sie stellen einen Chatbot auf die Website, und der antwortet freundlich, flüssig – und leider frei erfunden. Ein Assistent ohne Zugriff auf Ihr Wissen ist kein Assistent. Er ist ein Gesprächspartner mit gutem Auftreten und keinerlei Sachkenntnis.

Wie die Anbindung technisch funktioniert

Der übliche Weg heißt RAG – Retrieval Augmented Generation. Das klingt komplizierter, als es ist. Das Prinzip in drei Schritten:

1. Ihr Wissen wird aufbereitet. Produktdatenblätter, FAQ, Handbücher, Preislisten, Website-Inhalte, interne Dokumentation – alles wird in sinnvolle Abschnitte zerlegt und in einer durchsuchbaren Form abgelegt (einer sogenannten Vektordatenbank).

2. Bei jeder Frage wird gesucht. Fragt jemand nach der Lieferzeit für Produkt X, sucht das System zuerst die passenden Stellen aus Ihren Dokumenten heraus.

3. Die KI antwortet auf dieser Basis. Das Sprachmodell bekommt die gefundenen Textstellen mitgeliefert und formuliert daraus die Antwort. Es erfindet nichts – es fasst zusammen, was in Ihren Unterlagen steht.

Der entscheidende Nebeneffekt: Sie können nachvollziehen, woher eine Antwort kommt. Ein gut gebauter Assistent nennt die Quelle. Das ist nicht nur ein Vertrauensgewinn gegenüber Kunden, sondern in regulierten Branchen schlicht Voraussetzung.

Wichtig zu verstehen: Ihre Daten werden dabei nicht in das Modell "eintrainiert". Sie bleiben in Ihrer Datenbank und werden pro Anfrage gezielt herangezogen. Ändert sich Ihre Preisliste, ändert sich die Antwort – ohne dass irgendetwas neu trainiert werden muss.

Der Aufwand liegt nicht in der KI. Er liegt in Ihren Daten.

Das ist die unbequeme Wahrheit hinter fast jedem dieser Projekte. Die technische Anbindung ist heute weitgehend Standardhandwerk. Der Aufwand entsteht davor.

Typischer Zustand in einem mittelständischen Unternehmen: Die aktuelle Preisliste liegt als PDF auf dem Server, in einer älteren Version im Intranet und in einer dritten Fassung im Postfach des Vertriebsleiters. Das Produkthandbuch ist auf dem Stand von 2021. Die FAQ auf der Website beantwortet Fragen, die seit zwei Produktgenerationen niemand mehr stellt.

Eine KI löst dieses Problem nicht. Sie macht es sichtbar. Wer widersprüchliche Daten anbindet, bekommt widersprüchliche Antworten – nur schneller und in besserem Deutsch. Genau darum setzen wir bei KI-Projekten selten bei der KI an, sondern eine Stufe davor.

Was das in der Praxis heißt

Der erste Arbeitsschritt ist fast immer eine Bestandsaufnahme: Welches Wissen gibt es überhaupt, wo liegt es, wer pflegt es, und was davon ist aktuell? Danach folgt die unangenehme Frage, wer künftig dafür verantwortlich ist. Ein Assistent, dessen Datenbasis niemand pflegt, ist nach neun Monaten schlechter als gar keiner – weil er dann falsche Auskünfte mit voller Überzeugung erteilt.

Der gute Teil: Diese Arbeit zahlt doppelt. Ein sauber strukturierter Wissensbestand verbessert nicht nur den Assistenten, sondern auch Ihre Website, Ihre Suchergebnisse und die Einarbeitung neuer Mitarbeiter. Wer das im CMS ordentlich strukturiert ablegt, hat die Datenquelle bereits gepflegt und muss sie für die KI nicht separat aufbauen. Wir bauen Systeme deshalb gern so, dass die Redaktion einmal pflegt und Website wie Assistent aus derselben Quelle bedient werden.

Wo sich das zuerst lohnt

Nicht jedes Wissen muss angebunden werden. Die sinnvollsten Einstiegspunkte sind die, wo dieselbe Frage täglich mehrfach gestellt wird:

• Kundensupport auf der Website – Produktdetails, Verfügbarkeiten, Anleitungen, Konditionen. Das entlastet spürbar und ist gleichzeitig der Bereich mit der besten Datenlage, weil die Inhalte ohnehin öffentlich sind.
• Vertriebsunterstützung intern – Wer schnell die richtige Referenz, die passende Konfiguration oder die aktuelle Konditionsstaffel braucht, spart pro Vorgang mehrere Minuten.
• Onboarding und interne Auskunft – Prozesse, Zuständigkeiten, Vorlagen. Der Bereich, in dem am meisten Zeit verloren geht, ohne dass es jemand misst.
• Telefonische Erstauskunft – dieselbe Wissensbasis lässt sich auch für einen KI-Telefon-Assistenten nutzen. Einmal aufgebaut, mehrfach verwendet.

Datenschutz: die Frage, die immer kommt

Zu Recht. Entscheidend sind drei Punkte: Wo liegen Ihre Daten, wohin gehen die Anfragen, und was passiert damit?

Die Datenbasis kann auf einem Server in Deutschland oder in Ihrer eigenen Infrastruktur liegen. Für das Sprachmodell gibt es Anbieter mit EU-Hosting und vertraglich zugesichertem Ausschluss der Trainingsnutzung; für besonders sensible Fälle lässt sich ein Modell auch vollständig selbst betreiben – teurer, aber technisch unproblematisch. Was Sie in jedem Fall brauchen: eine bewusste Entscheidung darüber, welche Dokumente überhaupt in den Index dürfen. Personenbezogene Daten gehören dort in aller Regel nicht hin.

Kurz gesagt

Ein KI-Assistent mit eigenen Firmendaten ist kein Forschungsprojekt mehr, sondern ein absehbares Vorhaben mit kalkulierbarem Aufwand. Der Aufwand liegt allerdings selten dort, wo man ihn vermutet: nicht in der KI, sondern in der Ordnung, die man vorher in sein eigenes Wissen bringt.

Wenn Sie wissen wollen, was das konkret kostet, haben wir das an anderer Stelle offen aufgeschrieben. Und wenn Sie herausfinden wollen, ob Ihre Datenlage überhaupt trägt: Genau das klären wir im Erstgespräch, bevor irgendjemand über Technik redet. Mehr dazu unter KI & Automatisierung oder direkt über Kontakt zu WOAR.