KI News

ChatGPT Firmenwissen:
Warum KI Kontext braucht

Bild von Kimena Gabriel

Kimena Gabriel

Autorin
Publiziert am 19.08.2026

ChatGPT Firmenwissen ist nicht automatisch verfügbar – auch wenn die KI im Arbeitsalltag oft so wirkt, als wüsste sie fast alles. ChatGPT kann E-Mails formulieren, Konzepte erklären, Texte zusammenfassen, Ideen entwickeln und komplexe Fragen beantworten. Doch sobald es um internes Firmenwissen geht, zeigt sich eine wichtige Grenze: ChatGPT kennt Ihr Unternehmen nicht automatisch.

Es weiss nicht von selbst, wie Ihre internen Prozesse funktionieren, welche Produkte aktuell priorisiert werden, welche Preislogik gilt, welche Kundenvereinbarungen bestehen oder welche Tonalität Ihre Marke verwendet. Auch interne Abkürzungen, Projektnamen, Rollen, Richtlinien oder historische Entscheidungen sind für ChatGPT nicht einfach verfügbar. Damit ChatGPT verlässlich mit Firmenwissen arbeiten kann, braucht es Kontext – und je nach Anspruch ein geeignetes System, das dieses Wissen strukturiert bereitstellt.

Was ChatGPT ohne Kontext weiss

ChatGPT basiert auf einem grossen Sprachmodell. Es wurde darauf trainiert, Sprache zu verstehen, Muster zu erkennen und hilfreiche Antworten zu generieren. Dadurch kann es sehr gut mit allgemeinem Wissen, Formulierungen, Strukturen, Argumentationen und typischen Geschäftsprozessen umgehen. Es kann beispielsweise erklären, wie ein Onboarding-Prozess aufgebaut sein könnte, welche Elemente eine Offerte enthalten sollte oder wie ein professioneller Kundenbrief formuliert wird.

Was es ohne zusätzlichen Kontext jedoch nicht weiss: wie genau Ihr Unternehmen arbeitet. Es kennt nicht automatisch Ihr CRM, Ihre internen Dokumente, Ihre aktuellen Angebote, Ihre Abacus-Prozesse, Ihre Organisationsstruktur oder Ihre kundenspezifischen Vereinbarungen. Auch wenn ChatGPT eine Antwort sehr überzeugend formuliert, bedeutet das nicht, dass sie auf Ihren internen Informationen basiert.

Das ist besonders wichtig für Unternehmen. Denn im geschäftlichen Umfeld reicht eine plausible Antwort oft nicht aus. Sie muss korrekt, aktuell, nachvollziehbar und im besten Fall auf den richtigen internen Quellen abgestützt sein. Ohne Kontext kann ChatGPT allgemeine Empfehlungen geben. Mit Kontext kann es deutlich spezifischer unterstützen.

Warum Kontext so entscheidend ist

Kontext ist alles, was ChatGPT zusätzlich zur eigentlichen Frage erhält. Das kann eine kurze Beschreibung sein, ein hochgeladenes Dokument, eine interne Richtlinie, ein Beispieltext, eine Zielgruppe, ein gewünschter Stil oder eine konkrete Aufgabenstellung.

Ein einfacher Prompt wie «Schreibe eine Antwort an einen Kunden» führt zu einem generischen Ergebnis. Wird jedoch ergänzt, wer der Kunde ist, worum es geht, welche Tonalität gewünscht ist, welche Produkte betroffen sind und welche Informationen zwingend berücksichtigt werden müssen, wird die Antwort deutlich brauchbarer.

Für KMU ist das ein zentraler Punkt: Der Nutzen von KI entsteht nicht allein durch das Tool, sondern durch die Qualität des bereitgestellten Kontexts. Wer ChatGPT gezielt mit relevanten Informationen füttert, erhält bessere Resultate. Wer erwartet, dass ChatGPT interne Zusammenhänge errät, riskiert Missverständnisse, ungenaue Aussagen oder erfundene Details.

Wie Personalisierung funktioniert

ChatGPT lässt sich auf verschiedene Arten personalisieren. Die einfachste Form ist der Prompt selbst. Dort geben Nutzerinnen und Nutzer an, welche Rolle ChatGPT einnehmen soll, welche Aufgabe zu lösen ist und welche Rahmenbedingungen gelten.

Eine Stufe weiter gehen Custom Instructions. Damit können dauerhafte Hinweise hinterlegt werden, die ChatGPT in künftigen Antworten berücksichtigen soll. Zum Beispiel: «Schreibe in Schweizer Hochdeutsch», «Verwende eine sachliche, aber zugängliche Sprache» oder «Berücksichtige, dass unsere Zielgruppe KMU in der Deutschschweiz sind.» Solche Anweisungen helfen bei Stil, Perspektive und wiederkehrenden Präferenzen.

Auch Projekte oder eigene GPTs können eine Personalisierung ermöglichen. In einem Projekt lassen sich Chats, Dateien und spezifische Instruktionen bündeln. Ein Custom GPT kann zusätzlich mit bestimmten Anweisungen, Wissen und Funktionen ausgestattet werden. So entsteht ein Assistent, der für einen bestimmten Zweck optimiert ist – etwa für Marketingtexte, Supportantworten oder interne Prozessdokumentation.

Wichtig ist aber: Personalisierung bedeutet nicht automatisch, dass ChatGPT Zugriff auf das gesamte Firmenwissen hat. Custom Instructions erklären, wie ChatGPT antworten soll. Hochgeladene Dateien oder hinterlegtes Wissen liefern zusätzliche Inhalte. Doch das ersetzt noch kein vollständiges, laufend aktualisiertes und berechtigungsgesteuertes Wissenssystem.

Die Screenshots zeigen die Personalisierungs-Einstellungen in ChatGPT. Hier lässt sich festlegen, wie ChatGPT antworten soll – etwa in Bezug auf Tonfall, Stil und individuelle Hinweise.

Die Screenshots zeigen die Personalisierungs-Einstellungen in ChatGPT. Hier lässt sich festlegen, wie ChatGPT antworten soll – etwa in Bezug auf Tonfall, Stil und individuelle Hinweise.

Wie Memory einzuordnen ist

Memory ist eine weitere Personalisierungsfunktion. Sie kann ChatGPT helfen, bestimmte Informationen über eine Nutzerin, einen Nutzer oder wiederkehrende Präferenzen über mehrere Gespräche hinweg zu berücksichtigen. Zum Beispiel kann sich ChatGPT merken, dass jemand kurze Zusammenfassungen bevorzugt oder häufig Inhalte für KMU schreibt.

Für den Arbeitsalltag kann das hilfreich sein. Memory spart Wiederholungen und macht Antworten persönlicher. Es ist jedoch wichtig, die Funktion richtig einzuordnen. Memory ist kein vollständiges Unternehmensarchiv. Es ist auch keine Garantie dafür, dass alle früheren Informationen jederzeit vollständig und korrekt berücksichtigt werden.

Für Firmenwissen ist Memory deshalb nur begrenzt geeignet. Es kann persönliche Arbeitspräferenzen unterstützen, aber es sollte nicht als zentrale Quelle für Prozesse, Richtlinien, Produktinformationen oder Kundendaten verstanden werden. Solche Informationen müssen strukturiert, aktuell und nachvollziehbar verwaltet werden.

Wo die Grenze zu RAG beginnt

Spätestens hier beginnt die Abgrenzung zu RAG. RAG steht für Retrieval-Augmented Generation. Vereinfacht gesagt verbindet ein RAG-System ein Sprachmodell mit externen Wissensquellen. Bevor eine Antwort generiert wird, sucht das System zuerst in relevanten Dokumenten, Datenbanken oder Wissenssammlungen nach passenden Informationen. Diese gefundenen Inhalte werden dann als Grundlage für die Antwort verwendet.

Der Unterschied ist entscheidend: ChatGPT ohne RAG antwortet primär aus seinem Modellwissen und dem direkt gegebenen Kontext. Ein RAG-System holt aktiv Informationen aus angebundenen Quellen. Das können interne Handbücher, Prozessdokumentationen, SharePoint-Dateien, ERP-Daten, CRM-Inhalte oder Wissensdatenbanken sein.

Für Unternehmen wird RAG dann interessant, wenn Antworten zuverlässig auf internem, aktuellem und idealerweise zitierbarem Wissen basieren sollen. Zum Beispiel bei Fragen wie: «Welche Spesenregel gilt für Mitarbeitende in der Schweiz?», «Welche SLA-Vereinbarung hat Kunde X?» oder «Wie läuft unser Freigabeprozess für Offerten über 50’000 Franken?» Solche Fragen sollte ein System nicht erraten. Es sollte die passende Quelle finden, auswerten und transparent machen, worauf die Antwort basiert.

RAG Architektur

Aufbau einer RAG Architektur
Aufbau einer RAG Architektur

Wann reicht ChatGPT – und wann braucht es mehr?

Für viele Aufgaben reicht ChatGPT mit gutem Prompting völlig aus. Dazu gehören erste Entwürfe, Ideenfindung, Strukturierung, Sprachoptimierung oder allgemeine Erklärungen. Auch mit Custom Instructions, Projekten oder hochgeladenen Dateien lassen sich viele wiederkehrende Aufgaben effizienter erledigen.

Mehr braucht es, wenn Firmenwissen regelmässig, verlässlich und über mehrere Quellen hinweg genutzt werden soll. Wenn Aktualität, Berechtigungen, Nachvollziehbarkeit und Skalierbarkeit wichtig sind, stossen einfache ChatGPT-Nutzungen an Grenzen. Dann lohnt sich der Blick auf ein RAG-System oder eine andere Form der angebundenen Wissensarchitektur.

Gerade für KMU muss das kein Grossprojekt sein. Der erste Schritt besteht oft darin, die wichtigsten Wissensquellen zu identifizieren: Wo liegen Prozessinformationen? Welche Dokumente sind aktuell? Wer ist verantwortlich? Welche Fragen stellen Mitarbeitende oder Kunden immer wieder? Erst wenn klar ist, welches Wissen wirklich gebraucht wird, kann entschieden werden, ob einfache Prompts, Custom GPTs oder ein RAG-System der richtige Weg sind.

Wie ChatGPT mit SharePoint verbunden werden kann

Eine einfache Möglichkeit, ChatGPT näher ans Firmenwissen zu bringen, ist die Anbindung an SharePoint beziehungsweise Microsoft 365. So können berechtigte Inhalte aus SharePoint, OneDrive oder weiteren Microsoft-365-Quellen direkt im Chat gesucht, zusammengefasst und als Kontext für Antworten genutzt werden. Mitarbeitende müssen Dokumente dadurch nicht jedes Mal manuell hochladen und können Fragen zu bestehenden Richtlinien, Projektdokumenten oder internen Unterlagen stellen.

Diese Basic-Anbindung ist ein guter erster Schritt, ersetzt aber kein vollständiges RAG-System. Die Qualität hängt stark davon ab, wie sauber SharePoint gepflegt ist: veraltete, doppelte oder schlecht strukturierte Dokumente führen auch mit KI zu unzuverlässigen Ergebnissen. Wenn Antworten geschäftskritisch, auditierbar, rollenbasiert oder über mehrere Systeme hinweg konsistent sein müssen, braucht es eine strukturiertere Lösung mit klar definierten Quellen, Berechtigungen, Aktualisierung und Quellenangaben.

Der Screenshot zeigt die SharePoint-App in ChatGPT. Über «Plugin installieren» kann SharePoint mit ChatGPT verbunden werden, damit berechtigte SharePoint-Seiten und Dateien direkt im Chat gesucht, zusammengefasst und als Kontext für Antworten genutzt werden können.

Der Screenshot zeigt die SharePoint-App in ChatGPT. Über «Plugin installieren» kann SharePoint mit ChatGPT verbunden werden, damit berechtigte SharePoint-Seiten und Dateien direkt im Chat gesucht, zusammengefasst und als Kontext für Antworten genutzt werden können.

Fazit

ChatGPT kennt viel – aber nicht automatisch Ihr Unternehmen. Ohne Kontext liefert es allgemeine, oft hilfreiche Antworten. Mit guten Prompts, Custom Instructions, Projekten, Dateien oder Memory wird es persönlicher und relevanter. Doch sobald es um aktuelles, internes und verlässliches Firmenwissen geht, braucht es mehr als nur Personalisierung.

Die entscheidende Frage lautet deshalb nicht: «Kann ChatGPT das beantworten?» Sondern: «Auf welcher Wissensgrundlage soll ChatGPT antworten?» Wer diese Frage sauber klärt, legt die Basis für sinnvolle KI-Nutzung im Unternehmen – von einfachen Assistenzaufgaben bis hin zu intelligenten, angebundenen Wissenssystemen.

Häufig gestellte Fragen

ChatGPT hat keinen automatischen Zugriff auf interne Dokumente, Systeme, Prozesse oder Kundendaten eines Unternehmens. Es kann allgemeines Wissen nutzen und mit Informationen arbeiten, die im Chat bereitgestellt werden. Firmenwissen muss jedoch aktiv als Kontext eingebracht oder über angebundene Systeme verfügbar gemacht werden.

Ohne Kontext kann ChatGPT allgemeine Konzepte erklären, Texte formulieren, Ideen entwickeln, Strukturen vorschlagen und typische Geschäftsprozesse beschreiben. Es weiss aber nicht, wie ein bestimmtes Unternehmen intern arbeitet, welche Richtlinien gelten oder welche Informationen aktuell und verbindlich sind.

Custom Instructions helfen vor allem bei wiederkehrenden Vorgaben wie Tonalität, Sprache, Zielgruppe oder Arbeitsweise. Sie sind nützlich für die Personalisierung, ersetzen aber keine interne Wissensdatenbank. Für konkrete Firmeninformationen braucht ChatGPT weiterhin Dokumente, Kontext oder angebundene Datenquellen.

Nein. Memory kann sich bestimmte Präferenzen oder wiederkehrende Informationen merken, zum Beispiel gewünschte Schreibstile oder typische Aufgaben. Es ist aber kein vollständiges, verlässliches Unternehmensarchiv. Prozesse, Richtlinien, Produktinformationen oder Kundendaten sollten nicht allein über Memory verwaltet werden.

Ein RAG-System wird relevant, wenn ChatGPT Antworten auf Basis aktueller, interner und nachvollziehbarer Quellen geben soll. Das ist besonders wichtig bei Richtlinien, Prozessfragen, Produktinformationen, Vertragsdetails oder kundenspezifischen Vereinbarungen. RAG sorgt dafür, dass Informationen zuerst aus definierten Wissensquellen abgerufen und dann für die Antwort verwendet werden.

Beratung gewünscht?

Legen Sie jetzt ein Fundament für die Zukunft und starten Sie Ihre KI-Reise. Kontaktieren Sie uns, um mehr zu erfahren.

Philippe Fuhrer

In der Rolle KI Berater & Softwareentwickler ist Philippe zuständig für die erfolgreiche Umsetzung von KI-Projekten - von der Identifikation von Nutzenpotenzialen bis hin zur Lösungsentwicklung und Implementierung.

Interesse geweckt?

Weitere Beiträge

Das könnte Sie auch interessieren

Läuft mit uns!

Sie wollen uns unverbindlich kennenlernen, haben eine Frage oder Anregung? Wir sind gerne für Sie da.

Wir verwenden Cookies auf unserer Webseite. Über die Browsereinstellungen können Sie Ihre Cookie-Präferenzen einstellen. Mehr dazu erfahren Sie in unserer Datenschutzerklärung.

Social Media