Was ein interner KI-Assistent in der DACH-Region wirklich kostet (2026)

Eine Führungskraft stellt eine einfache Frage: Was kostet ein interner KI-Assistent über unsere Firmendokumente eigentlich pro Person und Monat? Die Antwort fällt meist in eine von zwei wenig hilfreichen Kategorien. Entweder eine erschreckende fünfstellige Zahl, die von einem self-hosted GPU-Cluster ausgeht, den niemand braucht, oder ein Achselzucken nach dem Motto "fast nichts, Tokens sind ja jetzt günstig". Beides ist falsch, denn die echten Kosten eines RAG-Assistenten über SharePoint, Confluence und Google Drive sind nicht eine große Position. Es sind mehrere kleine, plus der Teil, den alle vergessen: ihn am Laufen zu halten.

Engineering- und Prozess-Perspektive, kein Vendor-Pitch. Hier geht es darum, KI intern auszurollen, ein anderer Job als ein KI-Produkt für deine Kunden zu bauen; die interne Setup-Seite machen wir unter AI Enablement. Die Zahlen unten sind Richtwerte aus öffentlichen 2026er-Preisen, und deine Zahlen werden abweichen. Prüfe aktuelle Preise erneut, bevor du budgetierst.

Bevor du Retrieval bepreist, entscheide, was es abrufen soll. Unser Leitfaden zum KI-fähigen Unternehmenswiki definiert die Architektur für kanonisches Wissen, Berechtigungen und Reviews, die dieses Kostenmodell voraussetzt.

Was treibt die Kosten eines internen KI-Assistenten wirklich?

Fast alle starren auf die LLM-Rechnung, und die ist bei einem internen Assistenten selten die größte Zahl. Die Kosten werden von drei Dingen bestimmt, die du steuerst, bevor ein einziger Token ausgegeben wird:

• Wie viele Leute ihn nutzen, und wie intensiv. Zehn Power-User mit 30 Anfragen pro Tag kosten mehr als 200 Gelegenheitsnutzer, die ihn zweimal pro Woche öffnen. Die relevante Einheit sind Anfragen pro Tag, nicht Köpfe.
• Wie viel er zum Antworten lesen muss. Jede Antwort zieht abgerufene Dokument-Chunks in den Prompt. Stopf zehn Seiten Kontext in jeden Call, und deine Input-Token-Rechnung vervielfacht sich, obwohl die Frage einzeilig war.
• Wie frisch der Index sein muss. Dokumente im Moment ihrer Änderung neu zu embedden kostet mehr als ein nächtlicher Sync. Das meiste interne Wissen ändert sich nicht minütlich, und das ist eine Einsparung, die die meisten Teams liegen lassen.

Bring diese drei Annahmen zuerst zu Papier. Sie bewegen die Monatsrechnung stärker als jede Vendor-Wahl, die du später triffst.

Was sind die Kostenpositionen, Zeile für Zeile?

Hier ist ein illustratives 2026er-Budget für einen kleinen selbst betriebenen RAG-Assistenten. Die Spannen sind Szenario-Annahmen, keine Marktmittelwerte oder Provider-Angebote. Rechne sie mit aktuellen Preisen sowie gemessenen Tokens, Speicher, Requests, Replikas und Service Levels neu.

Achte auf das Muster. Die Infrastruktur-Zeilen sind 2026 überraschend günstig. Die Kosten, die entscheiden, ob das Projekt sich lohnt, stehen in der letzten Zeile, und sie ist die, die keine Vendor-Quote enthält.

"Die Vektor-DB und die Tokens sind der günstige Teil. Der teure Teil ist der Entwickler, der die Antworten korrekt hält, nachdem sich die Dokumente geändert haben. Budgetiere das ein, sonst verrottet das Projekt."

Build oder Buy: Was ist wirklich günstiger?

Die fertigen "KI über deine Wissensbasis"-Produkte nennen einen Preis pro Sitz, oft im Bereich eines bezahlten Produktivitäts-Sitzes. Das ist sauber und planbar, und für ein kleines Team mit generischen Dokumenten kann es die richtige Wahl sein. Der Haken zeigt sich an zwei Stellen: Du zahlst pro Sitz, egal ob ein User einmal im Monat oder fünfzig Mal am Tag anfragt, und dein Daten-Routing und deine Retrieval-Logik sind das, was der Vendor entschieden hat.

Ein selbst betriebenes Setup dreht das um. Die Kosten pro Query sind niedrig und du zahlst nur, was läuft, aber du trägst den Bau und die Wartung. Der Break-even hängt nicht allein an der Sitzzahl, sondern an Kontrolle. Sobald du permission-aware Retrieval brauchst, das deine SharePoint- und Confluence-Zugriffsregeln spiegelt, oder die Daten deine Infrastruktur nicht verlassen dürfen, ist der Preis pro Sitz von der Stange nicht mehr die ganze Geschichte. Tiefer in die Rollout-Entscheidung gehen wir in wie du KI intern ausrollst, ohne Shelfware zu produzieren.

Wo treibt DACH-Datenresidenz die Kosten?

Für ein DACH-Unternehmen ist der Datenstandort ein Teil des rechtlichen und technischen Designs. Die DSGVO verlangt nicht pauschal EU-only Processing: Drittlandtransfers können sich nach Kapitel V auf Angemessenheitsbeschlüsse oder geeignete Garantien stützen. Auch der EU AI Act schafft kein allgemeines Datenresidenzgebot. Verträge, Branchenregeln, Kundenrichtlinien, Geheimhaltungspflichten oder der Transfermechanismus können EU-only Processing im konkreten Projekt dennoch verlangen.

• EU-Zone oder regionale Modell-Endpoints. Microsoft Foundry Data Zone verarbeitet etwa innerhalb einer definierten EU-Zone, Single-Region Deployments in der gewählten Region. Modellverfügbarkeit, Quoten, SLA und Preis können variieren. Vergleiche das konkrete Modell und die Region statt einen festen Residenz-Aufpreis anzunehmen.
• EU-gehostete Vektor-DB und App. Region Pinning kann Konfiguration, eigenes Service-Tier oder für ein Produkt nicht verfügbar sein. Es kann Preis, Redundanz, Egress, Kapazität und Betriebsdesign verändern.
• Die Compliance-Arbeit selbst. Die echten Residenz-Kosten sind die Prüfung: der Auftragsverarbeitungsvertrag, das Verzeichnis von Verarbeitungstätigkeiten und die Bestätigung, dass kein Wartungszugriff von außerhalb der EU auf die Daten reicht. Das ist einmaliger Aufwand plus eine kleinere wiederkehrende Prüfung, und am Reißbrett ist es weit günstiger als nachträglich.

Von Anfang an geplant sind Residenz und Transferkontrollen explizite Budgetpositionen. Später ergänzt können sie Datenmigration, Anbieterwechsel oder einen Architekturumbau verlangen.

Was kostet es pro Sitz und Monat, in einem durchgerechneten Beispiel?

Nur illustrativ. Deine Zahlen werden abweichen, und du solltest aktuelle Preise erneut prüfen, bevor du dem hier vertraust. Es geht um die Form der Rechnung, nicht um die exakte Zahl.

Nimm ein DACH-Unternehmen mit 50 aktiven Usern, jeder mit rund 10 Anfragen pro Tag (etwa 11.000 Anfragen pro Monat), über einen Korpus von ein paar hunderttausend Dokument-Chunks, beantwortet von einem Mid-Tier-Modell in EU-Region mit engem Retrieval (eine Handvoll Chunks pro Antwort), nächtlichem Re-Indexing und einer managed Vektor-DB.

Unter diesen Annahmen liegt der Infrastruktur-Subtotal bei rund $3 bis $10 pro aktivem Sitz und Monat. Das ist die Rechnung dieses 11.000-Query-Szenarios, kein DACH-Benchmark. Wartung, Identity, Security, Backups, Support, Steuern und Personalzeit liegen außerhalb.

Wie hältst du ihn günstig, ohne ihn verrotten zu lassen?

Dieselbe Disziplin, die einen produktiven KI-Build bezahlbar hält, gilt hier. Die Kostenhebel, in der Reihenfolge, in der sie sich auszahlen:

• Zum günstigsten fähigen Modell routen. Die meisten internen Fragen brauchen nicht dein teuerstes Modell. Reserviere das Frontier-Modell für die schwere Minderheit, und die Kosten pro Query fallen deutlich.
• Weniger, aber präziser abrufen. Die größte einzelne Token-Verschwendung ist, zu viele Chunks in jede Antwort zu stopfen. Gutes Retrieval plus ein Reranker schickt dem Modell ein paar relevante Chunks, nicht zehn Seiten. Das ist der Hebel mit dem größten Effekt auf die LLM-Zeile.
• Gemessene Wiederholungen cachen. Cache nur, wenn Logs wiederholbare, permissionssichere Inputs zeigen, und definiere Invalidierung für geänderte Dokumente und Rechte. Die tiefere Token-Mechanik steht in wie du LLM-Token-Kosten 2026 senkst.
• Nach Freshness-SLA indexieren. Wähle nächtlichen, event-getriebenen oder Near-Real-Time-Sync nach der tolerierten Stale-Zeit. Embedding-Kosten folgen dem geänderten Token-Volumen.

Eine Demut-Anmerkung, die keine Kostentabelle einfängt: Ein günstiger Assistent, der still falsche Antworten gibt, ist das teuerste Ergebnis von allen. Du brauchst ein Eval-Set, eine Methode, um die Antwortqualität nach Dokumentänderungen zu messen, und jemanden, dessen Job es ist, ihn zu beobachten. Diese Wartungszeile ist kein optionales Polster. Sie ist der Unterschied zwischen einem Tool, dem das Team vertraut, und einem, das es nicht mehr öffnet. Dieselbe Disziplin hat sich in produktiver KI-Arbeit wie Twinsoft AI ausgezahlt, wo der Eval-Harness die Kostenoptimierung sicher gemacht hat.

Primärquellen für diesen Leitfaden

Prüfe diese laufend aktualisierten Anbieter-Seiten erneut, bevor du ein Budget freigibst.

• OpenAI-Dokumentation zu text-embedding-3-small
• Pinecone Pricing
• Microsoft Foundry Deployment Types und Data Zones
• DSGVO einschließlich Kapitel V
• EU AI Act