Zurück
Kevin Riedl

12 min Lesezeit · 22. Juni 2026

Weiter

ChatGPT Enterprise vs. Microsoft 365 Copilot vs. eigenes RAG: Was sollte ein DACH-Unternehmen kaufen?

Die Kurzfassung für ein Unternehmen in Österreich, Deutschland oder der Schweiz: Kauf Microsoft 365 Copilot, wenn du ohnehin in Microsoft 365 arbeitest und der Wert in deinen Daten aus Exchange, SharePoint und Teams liegt. Kauf ChatGPT Enterprise, wenn du den stärksten allgemeinen Assistenten willst und deine Daten über viele Tools verteilt sind, nicht nur über Microsoft. Bau ein eigenes RAG-System nur dann, wenn du eine Kontrolle brauchst, die dir keines der Produkte gibt: Datenhaltung zu deinen Bedingungen, berechtigungsbewusster Abruf über einen proprietären Datenbestand oder Modellportabilität, und wenn du das Engineering hast, um es zu betreiben. Keines der drei ist für sich genommen "DSGVO-konform". Du bleibst der Verantwortliche, und der Vertrag, nicht die Marketingseite, entscheidet, ob du abgesichert bist.

Das ist eine Sicht aus Beschaffung und Engineering, kein Verkaufsargument. Wir bauen und führen alle drei für Kunden ein, der folgende Vergleich dreht sich also um Passung und Trade-offs, nicht darum, welches Logo uns gefällt. Preise und Datenbedingungen entsprechen dem Stand Mitte 2026 und ändern sich oft. Prüf die verlinkten Anbieterseiten, bevor du unterschreibst.

Du willst eine neutrale Einschätzung, welches davon zu deinem Unternehmen passt?

 Kostenloses Gespräch buchen

Der Vergleich auf einen Blick

Die Dimensionen, die das wirklich entscheiden, nebeneinander. Behandle jede Zahl als Stand Mitte 2026 und prüf sie erneut.

DimensionChatGPT EnterpriseMicrosoft 365 CopilotEigenes RAG
PreisVerhandelt, kein öffentlicher Listenpreis30 USD pro Platz und Monat (Enterprise-Add-on, jährlich); Business-Tier günstiger mit Obergrenze von 300 Plätzen; Copilot Chat kostenlos mit berechtigtem M365Keine Gebühr pro Platz; stattdessen Bau- und Betriebskosten
VoraussetzungenKeine, es ist eigenständigEine qualifizierende Microsoft-365-Basislizenz, dazu Graph, Exchange und OneDriveEin Engineering-Team und Cloud-Infrastruktur
Trainiert standardmäßig auf deinen DatenNeinNeinNein, du kontrollierst es
Worauf es gegroundet istAllgemeinwissen plus Opt-in-KonnektorenDeine Microsoft-365-Daten, berechtigungsgefiltertDein eigener Datenbestand, beliebige Quelle
EU-DatenhaltungRegion Europa (ruhend seit Feb. 2025, Inferenz in der Region seit Jan. 2026); Granularität "Europa"EU-Datengrenze (EU und EFTA, inklusive Schweiz); Verarbeitung im Land wird 2026 ausgerolltWas immer du baust (Azure EU Data Zone, AWS EU oder Self-Hosting)
Governance und AdministrationSSO, SCIM, IP-Allowlists, Konnektor-Gating, Compliance-LogsPurview, DLP, Vertraulichkeitsbezeichnungen, eingeschränkte SharePoint-SucheWas immer du baust
Lock-inMittelHoch (Microsoft-Ökosystem)Niedrig (modellportabel)
Zeit bis zum NutzenTage bis WochenSchnell, wenn dein M365 ausgereift istWochen bis Monate

Ein Vorbehalt, der für ein DACH-Publikum zählt und leicht übersehen wird: Microsoft setzt inzwischen einige Anthropic-Modelle innerhalb von Copilot ein, und diese liegen außerhalb des Geltungsbereichs der EU-Datengrenze und der Zusagen zur Verarbeitung im Land. Wenn eine strenge Datenstandort-Story der Grund war, weshalb du dich für Copilot entschieden hast, prüf, welche Funktionen an welche Modelle weiterleiten.

ChatGPT Enterprise

Der stärkste universelle Assistent der drei und der flexibelste, was den Speicherort deiner Daten über verschiedene Tools hinweg angeht. OpenAI trainiert standardmäßig nicht auf Geschäftsdaten, du besitzt deine Ein- und Ausgaben, und die Aufbewahrung ist administrativ steuerbar. Es bringt SOC 2 Type 2, ISO 27001, einen Auftragsverarbeitungsvertrag für die DSGVO und einen BAA für Gesundheitsdaten mit. Die EU-Datenhaltung kam im Februar 2025 für ruhende Daten und wurde im Januar 2026 um Inferenz innerhalb der Region Europa erweitert, wobei die Granularität "Europa" ist und kein benanntes österreichisches oder Schweizer Rechenzentrum. Die ehrliche Lücke: OpenAI veröffentlicht keine Preise für ChatGPT Enterprise. Die Zahlen, die du rund um 60 Dollar pro Platz bei einem Minimum von 150 Plätzen zitiert siehst, sind Schätzungen Dritter, nicht offiziell, behandle sie also eher als Ausgangspunkt für ein Verkaufsgespräch denn als Tatsache.

Microsoft 365 Copilot

Wenn deine Arbeit ohnehin in Microsoft 365 stattfindet, ist das der Weg des geringsten Widerstands, denn der Wert liegt im Grounding der Antworten in deinen eigenen Daten aus Exchange, SharePoint und Teams, zugeschnitten auf das, was jeder Benutzer ohnehin sehen darf. Das Enterprise-Add-on kostet 30 Dollar pro Benutzer und Monat, jährlich bezahlt, und erfordert eine qualifizierende Basislizenz wie E3 oder E5; das Business-Tier ist günstiger, aber auf 300 Benutzer begrenzt; und Copilot Chat ist bei berechtigten Abonnements ohne Aufpreis enthalten. Prompts, Antworten und die Daten, die Copilot über Microsoft Graph erreicht, werden nicht zum Training von Foundation-Modellen verwendet und bleiben innerhalb der Microsoft-365-Servicegrenze, die auf Azure OpenAI statt auf dem öffentlichen ChatGPT-Dienst läuft. Das eigentliche Risiko ist hier nicht das Modell, sondern Oversharing: Copilot bringt bereitwillig alles zum Vorschein, worauf ein Benutzer technisch Zugriff hat. Wenn deine SharePoint-Berechtigungen also ein Durcheinander sind, macht Copilot das schnell sichtbar. Räum Berechtigungen und Vertraulichkeitsbezeichnungen vor dem Rollout auf, nicht danach.

Eigenes RAG

Ein eigenes Retrieval-System zu bauen ist die richtige Entscheidung, wenn keines der Produkte dir die nötige Kontrolle gibt: volle Datenhaltung zu deinen Bedingungen, berechtigungsbewusster Abruf über einen Datenbestand, der nicht in Microsoft 365 liegt, oder die Freiheit, Modelle zu tauschen und Lock-in zu vermeiden. Es ist auch der größte Aufwand. Als grobe Orientierung aus echten Projekten landet ein Proof of Concept irgendwo bei 6.000 bis 25.000 Euro, ein produktives MVP bei etwa 17.000 bis 80.000 und ein selbst gehostetes Enterprise-Setup mit SSO und Compliance ab 80.000 aufwärts; behandle diese Werte als Richtwerte, nicht als Angebote. Der Kostentreiber ist fast nie das Modell. Es sind Datenbereinigung, Zugriffssteuerung und Integration, die regelmäßig 30 bis 50 Prozent des Budgets verschlingen. Der mit Abstand schwierigste Teil sind die Berechtigungen: Setz sie auf der Retrieval-Ebene mit Metadatenfiltern durch, bevor die Suche läuft, nicht nachträglich in der App aufgesetzt. Wir gehen darauf in unserer RAG-Produktionsreife-Checkliste für die EU in die Tiefe.

Es gibt auch einen Mittelweg, den man benennen sollte: Tools wie Microsoft Copilot Studio und Azure AI Foundry oder OpenAIs Agent-Tooling erlauben es, ein verwaltetes Produkt anzupassen und zu grounden, ohne das Retrieval von Grund auf zu bauen. Das ist oft die pragmatische Antwort, wenn "kaufen" zu starr und "bauen" zu viel ist.

So wählst du

Wähle nach der Einschränkung, die dich tatsächlich bindet, nicht nach der glänzendsten Demo.

  1. Wähle Microsoft 365 Copilot, wenn du bereits auf M365 E3 oder E5 bist, der Wert im Grounding in Exchange, SharePoint und Teams liegt und die EU-Datengrenze plus Purview-Governance deine Datenschutz-Latte abdeckt. Akzeptier die Ausnahmen bei Multi-Geo, Web-Abfragen und Anthropic-Modellen und räum zuerst deine Berechtigungen auf.
  2. Wähle ChatGPT Enterprise, wenn du den stärksten allgemeinen Assistenten und Frontier-Modelle willst, deine Daten über viele SaaS-Tools verteilt liegen statt nur über Microsoft und die Datenhaltung in der "Region Europa" plus ein unterzeichneter AVV deine Anforderungen erfüllt.
  3. Bau ein eigenes RAG, wenn du Datenhaltung oder Souveränität zu deinen eigenen Bedingungen, berechtigungsbewussten Abruf über einen proprietären Datenbestand oder Modellportabilität brauchst und du das Engineering und MLOps für die Wartung hast oder einstellen wirst.
  4. Fang kleiner an, als du denkst. Für die meisten Teams ist der richtige erste Schritt Copilot oder ChatGPT Enterprise plus eine fokussierte Enablement-Initiative, und ein eigener Bau erst dann, wenn ein bestimmter Workflow mit hohem Volumen ihn klar rechtfertigt. Wir beschreiben diese Reihenfolge in So führst du KI 2026 intern ein.
Kevin Riedl

"Keines dieser Tools ist für sich genommen DSGVO-konform. Du bist der Verantwortliche. Das Produkt liefert dir die Bausteine, einen AVV, eine Datengrenze, Admin-Kontrollen, und deine Aufgabe ist es, daraus etwas Belastbares zusammenzusetzen. Die Kaufentscheidung ist die leichte Hälfte."

Der DACH-Datenschutzteil, den du nicht überspringen kannst

Was immer du wählst, du bleibst der Verantwortliche, und das bedeutet, dass einiges nicht optional ist. Du brauchst eine Rechtsgrundlage nach Artikel 6, einen unterzeichneten Auftragsverarbeitungsvertrag nach Artikel 28 (einen AVV), bevor irgendwelche personenbezogenen Daten fließen, einen gültigen Übermittlungsmechanismus und eine Datenschutz-Folgenabschätzung für risikoreichere Anwendungen. Der EU-US Data Privacy Framework bietet seit 2023 Angemessenheit, aber eine Klage bahnt sich durch die EU-Gerichte, behandle ihn also als vorläufig und halte Standardvertragsklauseln als Rückfalloption bereit. Die Schweiz benötigt einen Framework-zertifizierten Empfänger, SCCs, eine Einwilligung oder EU- und Schweizer Hosting. Und eine klare Linie für Mitarbeitende: Die kostenlosen und Plus-Verbrauchertarife von ChatGPT haben keinen AVV und sind für personenbezogene Unternehmensdaten nicht geeignet. Wenn Leute Kundendaten in einen privaten Account einfügen, ist das das Erste, was zu beheben ist, bevor irgendetwas aus diesem Vergleich zählt. Die Datenhaltung selbst ist ein tiefes Thema, das wir in EU-Datenhaltung für KI-Anwendungen 2026 behandeln.

Häufig gestellte Fragen

Trainiert ChatGPT Enterprise auf unseren Daten?
Nein. OpenAI trainiert standardmäßig nicht auf Geschäftsdaten, weder bei Team noch bei Enterprise noch über die API. Du besitzt deine Ein- und Ausgaben und steuerst die Aufbewahrung über die Admin-Konsole.
Trainiert Microsoft 365 Copilot auf unseren Daten?
Nein. Prompts, Antworten und die Daten, die Copilot über Microsoft Graph erreicht, werden nicht zum Training von Foundation-Modellen verwendet und bleiben innerhalb der Microsoft-365-Servicegrenze, die auf Azure OpenAI läuft.
Ist Microsoft 365 Copilot DSGVO-konform?
Microsoft liefert die Bausteine: einen Auftragsverarbeiter-AVV, die EU-Datengrenze, Purview-Governance und Zertifizierungen. Ob du konform bist, hängt weiterhin von dir als Verantwortlichem ab, also von einer Rechtsgrundlage, einem AVV, einer DSFA wo nötig und sauberen Berechtigungen.
ChatGPT Enterprise in Österreich, ist das datenschutzrechtlich erlaubt?
Ja, mit einem OpenAI-AVV, Datenhaltung in Europa sowie deiner eigenen Rechtsgrundlage und DSFA. Die österreichische DSB behandelt dich als Verantwortlichen, die eigentlichen Fragen sind also, ob personenbezogene Daten überhaupt übermittelt werden müssen und auf welchen Übermittlungsmechanismus du dich stützt.
Wo werden unsere Daten in der EU gespeichert und verarbeitet?
Copilot hält Daten innerhalb der EU-Datengrenze, die die EU und die EFTA inklusive Schweiz abdeckt, wobei die Verarbeitung im Land für einige Länder 2026 ausgerollt wird. ChatGPT Enterprise nutzt eine Region Europa, ruhend seit Februar 2025 und Inferenz in der Region seit Januar 2026, ohne dass ein länderspezifisches Rechenzentrum benannt ist.
Wie steht es um Schrems II und US-Datenübermittlungen?
Der EU-US Data Privacy Framework bietet derzeit Angemessenheit, aber eine Gerichtsklage ist anhängig, behandle ihn also als vorläufig und halte Standardvertragsklauseln als Rückfalloption bereit. Die Schweiz benötigt einen Framework-zertifizierten Empfänger, SCCs, eine Einwilligung oder lokales Hosting.
Brauchen wir einen AVV oder DPA?
Ja, nach Artikel 28 DSGVO, bevor irgendwelche personenbezogenen Daten verarbeitet werden. Sowohl Microsoft als auch OpenAI bieten einen für ihre Business-Tarife an. Die Verbraucher-Tarife von ChatGPT enthalten keinen AVV und sind für personenbezogene Unternehmensdaten ungeeignet.
Wann sollten wir ein eigenes RAG bauen statt zu kaufen?
Wenn du volle Kontrolle über Datenhaltung oder Souveränität, berechtigungsbewussten Abruf über einen proprietären Datenbestand oder Modellportabilität zur Vermeidung von Lock-in brauchst und sich die Ökonomie pro Platz bei deiner Größenordnung nicht mehr rechnet und du den Engineering- und Wartungsaufwand tragen kannst.
Darf unser Team weiterhin das kostenlose oder Plus-ChatGPT für die Arbeit nutzen?
Nicht für personenbezogene oder vertrauliche Daten. Verbraucher-Tarife haben keinen AVV. Nutze ChatGPT Enterprise oder Team oder Copilot mit Enterprise-Datenschutz für alles, was Unternehmens- oder Kundendaten betrifft.
Was kostet Copilot und was brauchen wir zuerst?
30 USD pro Benutzer und Monat für das Enterprise-Add-on, jährlich bezahlt, oder ein günstigeres Business-Tier mit Obergrenze von 300 Benutzern, und beide erfordern eine qualifizierende Microsoft-365-Basislizenz. Copilot Chat ist bei berechtigten Abonnements kostenlos.

Fazit

Die Kaufentscheidung wird größtenteils dadurch bestimmt, wo deine Daten und deine Arbeit bereits liegen. Tief in Microsoft 365 ist Copilot der naheliegende Start. Über viele Tools verteilt passt ChatGPT Enterprise besser. Wenn du Kontrolle brauchst, die dir keines davon gibt, bau.

Was sich mit dem Logo nicht ändert, ist deine Verantwortung. Keines davon ist von Haus aus konform, du bleibst der Verantwortliche, und der Vertrag und deine Berechtigungshygiene entscheiden, ob du abgesichert bist. Wähle das Tool an einem Nachmittag. Steck den echten Aufwand in den AVV, die Datenhaltungs-Story, die Berechtigungen und einen kleinen, klar abgegrenzten ersten Anwendungsfall, der Nutzen beweist, bevor du es allen ausrollst.

Du willst Hilfe bei einem sauberen Pilotprojekt, bevor du Budget bindest?

 Kostenloses Gespräch buchen
Zurück
Kevin Riedl

12 min Lesezeit · 22. Juni 2026

Weiter

Hilfe für KI in Produktion

Du baust ein KI-Produkt und machst dir Sorgen um Inference-Kosten, Architektur oder Production Readiness? Wavect hilft Gründern, KI-Prototypen in zuverlässige Produktionssysteme zu verwandeln.

Passender Service: