Die Nutzung von Chatbots ist heute schon Alltag für viele Menschen und das auch im beruflichen Kontext. Im Unternehmenskontext fehlt jedoch oft der Zugriff auf spezifische Datenbestände bzw. das Wissen über firmeninterne Daten, Fakten und Hintergründe. Ein Chatbot, der all diese Daten verarbeiten kann und gleichzeitig die Fähigkeiten der öffentlichen Angebote besitzt, ist folgerichtig ein attraktives Werkzeug.
Für die Realisierung stellt sich jedoch die Frage, wie die Sicherheitsbedürfnisse der Unternehmen berücksichtigt werden können. Die Antwort lautet: Souveräne KI.
Retrieval Augmented Generation - RAG
Eine typische Implementierung solcher Firmen-Chatbots nutzt einen RAG-Aufbau. RAG steht hierbei für Retrieval Augmented Generation. Hierbei werden die eigenen Daten in speziellen Datenbanken gespeichert und im Frage-/ Antwortzyklus des Chatbots verarbeitet. Die Datenbanken sind hierbei typischerweise Vektordatenbanken, die es erlauben, eine Ähnlichkeitssuche auf Texten zu realisieren. Mit dieser Technik werden Inhalte aus den internen Dokumenten ermittelt, die in der Folge den Kontext der eigentlichen Anfrage erweitern und so dafür sorgen, dass die Informationen dem KI-Modell vorliegen und zur Erzeugung einer Antwort genutzt werden können.
Falls die Daten viele Beziehungen von verschiedenen Elementen untereinander abbilden, wird zusätzlich eine Graph-Datenbank eingesetzt, die dies abbildet. Graph-Datenbanken erlauben die Abfrage von Beziehungen in einem Netzwerk von Informationen und werden ähnlich verwendet wir die Vektordatenbanken des Standardaufbaus. Die Suchergebnisse aus dem Informationsnetzwerk werden dem KI-Modell ebenfalls übermittelt und stehen damit zur Generierung einer Antwort zur Verfügung.
Mittlerweile werden die beidenTechniken auch in Kombination eingesetzt, um beide Aspekte berücksichtigen zu können. Darüberhinaus können auch interne Systeme (ERP, CRM, ...) angeschlossen werden, die eine weitere Quelle für die Erweiterung des Inputs für die Anfrage an das KI-Modell sind. Die Datenbanken, welche die firmeninternen Informationen speichern, werden hierbei vom Unternehmen souverän betrieben und vom Zugriff von außen abgeschirmt so wie die internen Kernsysteme. Damit wird sichergestellt, dass die sensiblen internen Daten nicht abfließen.
Öffentliche oder selbst gehostete Modelle
Für die Inferenz können öffentliche Systeme angebunden werden, wie die von OpenAI, Google oder anderen. Für vollständig souveränen Betrieb können auch souverän gehostete KI-Modelle eingesetzt werden, damit der Datenabfluss vollständig verhindert werden kann.
Für die Nutzung der internen Daten ist eine entsprechende Vorverarbeitung erforderlich, die je nach Qualität und Quantität der Daten mehr oder weniger Aufwand bei der Implementierung eines Firmen-Chatbots erfordert. Dies muss bei der Planung einer solchen Initiative berücksichtigt werden.
Mögliche Anwendungsfälle für den Firmenchatbot sind:
Interner Service
Viele einfache interne Anfragen zu Abläufen und Regeln oder schlicht Informationen über das Unternehmen oder Abläufe können auf einen Firmenchatbot verlagert werden. Dies reduziert Such- und Recherchezeiten sowie Personalbindung zur Beantwortung der Fragen. Fragen wie "Wie sieht unsere Regelung für Krankmeldungen aus?" oder "Wie bestelle ich Büromaterial?" binden dann keine Ressourcen in der Personalabteilung oder dem Einkauf mehr.
Interne Supportunterstützung
In vielen Unternehmen sind die Experten für spezielle Fälle wie Störungen von Geräten, die beim Kunden sind, eine Mangelressource. Dies führt dazu, dass ausgerechnet die besten Leute im Unternehmen oft mit Tätigkeiten gebunden sind, die nicht wertschöpfend sind. Hier kann ein entsprechender Firmenchatbot helfen, der auch Mitarbeitern mit weniger tiefer Expertise die Beantwortung von Fragen seitens des Kunden ermöglicht.
Externe Supportunterstützung
Gute Qualität vorausgesetzt, kann der Firmenchatbot auch für die externe Nutzung eingesetzt werden. Kunden und Interessenten können dann im Self Service Fragen stellen und Antworten erhalten, für die sonst ein Mitarbeiter telefonisch oder per Chat / Mail kontaktiert werden müsste.
Grundsätzlich sind dem Einsatz eines Firmenchatbots wenig Grenzen gesetzt. Die Beispiele stellen nur einige der typischen Anwendungsfälle dar. Der positive Effekt eines Firmenchatbots liegt in der Regel im Effizienzgewinn und damit der Kosteneinsparung durch die Verkürzung von Prozesszeiten und die Erweiterung der Fähigkeiten der Mitarbeiter.
Welche Ideen haben Sie? Lassen Sie uns gerne darüber sprechen: Jetzt Kontakt aufnehmen.
