Wie finden Mitarbeitende mit KI schneller Antworten in unseren eigenen Dokumenten?

Kurz beantwortet

Mit einem KI-Wissensassistenten, oft auch internes ChatGPT oder interner KI-Chatbot genannt. Mitarbeitende stellen eine Frage in normaler Sprache, etwa „Welche Prüfintervalle gelten für Anlage 3?“ oder „Was regelt unser Rahmenvertrag mit Lieferant X zu Lieferverzug?“. Das System sucht die passenden Stellen in Ihren Dokumenten, formuliert eine Antwort und nennt die Quelle, damit man nachlesen kann.

Das ist für viele Unternehmen der naheliegendste Einstieg in KI, weil fast jeder davon profitiert und das Risiko überschaubar ist. Die eigentliche Arbeit liegt allerdings nicht in der KI, sondern in Ordnung und Berechtigungen Ihrer Dokumente.

Wie das funktioniert

Das Verfahren heißt in der Fachsprache Retrieval-Augmented Generation, kurz RAG. Es läuft in zwei Schritten ab:

• Suchen: Ihre Dokumente werden vorab in Abschnitte zerlegt und so erfasst, dass das System nach Bedeutung suchen kann, nicht nur nach Stichworten. Eine Frage nach „Urlaub übertragen“ findet so auch den Abschnitt über „Resturlaub ins Folgejahr“.
• Antworten: Die gefundenen Abschnitte werden zusammen mit der Frage an ein Sprachmodell gegeben. Es formuliert daraus eine Antwort und verweist auf die Stellen, aus denen sie stammt.

Das Sprachmodell lernt Ihre Dokumente dabei nicht dauerhaft. Es bekommt sie bei jeder Frage neu vorgelegt. Deshalb sind Änderungen in den Dokumenten sofort wirksam, und deshalb ist es so wichtig, dass nur aktuelle Fassungen gefunden werden.

So bauen Sie es auf

1. Anwendungsbereich festlegen

Für wen soll der Assistent Fragen beantworten, und zu welchem Thema? Ein Assistent für die Einarbeitung neuer Mitarbeitender braucht andere Dokumente als einer für den technischen Service oder den Einkauf. Beginnen Sie mit einem Bereich, in dem viel gefragt und viel gesucht wird.

2. Dokumente auswählen und aufräumen

Legen Sie fest, welche Dokumente gelten. Veraltete Fassungen, Entwürfe und Dubletten müssen entweder entfernt oder klar gekennzeichnet werden. Sonst zitiert der Assistent die Arbeitsanweisung von vor drei Jahren mit derselben Überzeugung wie die aktuelle.

3. Berechtigungen prüfen

Der Assistent darf jedem Nutzer nur zeigen, was dieser auch sonst sehen dürfte. Dabei kommt oft ans Licht, dass Ordner mit Gehaltslisten, Personalakten oder Vorstandsunterlagen viel weiter freigegeben sind als gedacht. Bisher fiel das nicht auf, weil niemand dort gesucht hat. Ein KI-Assistent findet es.

4. Werkzeug wählen

• In bestehende Plattformen eingebaute Assistenten wie Microsoft 365 Copilot oder Google Gemini für Workspace. Schnell verfügbar, arbeiten mit den vorhandenen Berechtigungen.
• Spezialisierte Lösungen für Wissensmanagement, die verschiedene Quellen wie Laufwerke, Wiki, Ticketsystem und Intranet verbinden.
• Eigene Lösung mit einem Sprachmodell Ihrer Wahl, etwa wenn Daten das Haus nicht verlassen sollen oder Fachsysteme angebunden werden müssen.

Ob das Modell dahinter in der Cloud, bei einem EU-Anbieter oder im eigenen Rechenzentrum laufen sollte, zeigt die Entscheidungshilfe zu lokaler KI, Rechenzentrum und Cloud.

5. Testen mit echten Fragen

Sammeln Sie vorab typische Fragen aus dem Alltag und die richtigen Antworten dazu. Daran prüfen Sie, ob der Assistent die richtigen Dokumente findet und richtig antwortet. Diese Fragen wiederholen Sie bei jeder Änderung. Wie man das systematisch macht, steht im Artikel Prompt Evaluation.

Was Sie beachten müssen

Datenschutz. Dokumente enthalten personenbezogene Daten, von Ansprechpartnern in Verträgen bis zu Personalunterlagen. Der KI-Dienst braucht einen Auftragsverarbeitungsvertrag und darf Ihre Inhalte nicht zum Training nutzen. Mehr dazu in DSGVO-konforme KI im Unternehmen.

Mitbestimmung. Wenn protokolliert wird, wer welche Fragen stellt, ist das System grundsätzlich geeignet, Verhalten oder Leistung zu überwachen. Ein vorhandener Betriebsrat hat dann nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen.

Antworten sind keine Rechtsauskunft. Bei Fragen zu Verträgen, Arbeitsrecht oder Sicherheitsvorschriften sollte die Antwort immer als Hinweis auf die Quelle verstanden werden, nicht als verbindliche Auslegung.

Verantwortung für den Bestand. Ohne jemanden, der Dokumente aktuell hält und Rückmeldungen zu falschen Antworten bearbeitet, verliert der Assistent schnell an Vertrauen.

Typische Stolpersteine

• Alles auf einmal anbinden. Wer das gesamte Laufwerk anschließt, bekommt Antworten aus Entwürfen, Altständen und privaten Ablagen. Weniger, dafür gepflegte Dokumente bringen mehr.
• Berechtigungen nicht geprüft. Der häufigste Grund, warum ein Wissensassistent kurz nach der Einführung wieder abgeschaltet wird.
• Keine Quellenangabe. Ohne Quelle kann niemand eine Antwort prüfen. Das untergräbt das Vertrauen beim ersten Fehler.
• Keine Rückmeldemöglichkeit. Mitarbeitende müssen falsche oder fehlende Antworten melden können, und jemand muss daraus Verbesserungen ableiten.

Womit Sie anfangen

Wählen Sie einen abgegrenzten Dokumentenbestand mit vielen wiederkehrenden Fragen, etwa Qualitätshandbuch, Arbeitsanweisungen oder Produktunterlagen für den Service. Räumen Sie diesen Bestand auf, prüfen Sie die Berechtigungen und testen Sie mit einer kleinen Gruppe und einer Liste echter Fragen. Erst wenn die Antworten dort verlässlich sind, binden Sie weitere Bereiche an.