Die Betriebsfrage kommt vor dem Modellvergleich
Die meisten Diskussionen über interne Assistenten beginnen beim Modell: Welches versteht Deutsch am besten, welches schreibt den besseren Code. Die Frage, die vorher beantwortet gehört, ist eine andere: Welche Daten erreichen den Assistenten, und wo dürfen sie verarbeitet werden. Ein Assistent, der auf interne Dokumente, Tickets oder Quellcode zugreift, verarbeitet fast immer auch personenbezogene Daten, mindestens die Eingaben der Beschäftigten.
Die Orientierungshilfe der Datenschutzkonferenz empfiehlt genau diese Reihenfolge: erst Einsatzfelder und Zwecke festlegen, dann die Anwendung auswählen und implementieren. Dabei spielt auch die Unterscheidung zwischen geschlossenen und offenen Systemen eine Rolle: Entscheidend sind der begrenzte Nutzerkreis, die technische Abschottung und die weitere Verwendung der Eingaben.
Ein Muster, das wiederkehrt. Ein Bereich startet einen Assistenten als Versuch. Zwei Abteilungen finden ihn nützlich und laden Dokumente hoch. Ein halbes Jahr später steht die Frage im Raum, ob ein Personalgespräch, das jemand zur Zusammenfassung eingefügt hat, das Haus verlassen hat. Die Antwort hängt an einer Entscheidung, die niemand bewusst getroffen hat: an welchem Anbieter die Anfragen landen und was in dessen Vertrag steht. Deshalb steht diese Entscheidung am Anfang und nicht am Ende. Sie ist auch die teuerste zu korrigieren, weil ein Wechsel des Betriebsmodells alle Anbindungen berührt, die inzwischen entstanden sind.
Zuerst ist zwischen einem gehosteten KI-Dienst und eigenem Betrieb zu unterscheiden. Anbieterherkunft und Verarbeitungsregion sind zusätzliche Auswahlkriterien. Die folgenden Abschnitte betrachten Cloud-Dienste, europäische Anbieter als mögliche Bezugsquelle und den eigenen Betrieb.
KI-Dienst über eine Cloud-API
Ein KI-Dienst über eine Cloud-API führt das Modell beim Anbieter aus. Große Cloud-Plattformen wie Microsoft Azure, AWS oder Google Cloud und direkte Modellanbieter wie OpenAI oder Anthropic bieten solche Zugänge an [3][6][7]. Sie müssen die Rechner für die Modellausführung nicht selbst betreiben. Die Anbindung an Ihre Dokumente, Zugriffsrechte und Arbeitsabläufe bleibt eine eigene Aufgabe.
Für Azure OpenAI beschreibt Microsoft, dass Prompts und Ausgaben nicht an OpenAI weitergegeben und nicht ohne Zustimmung zum Training von Basismodellen verwendet werden. Der Verarbeitungsort hängt vom Bereitstellungstyp ab: Bei Global-Bereitstellungen können Anfragen in unterschiedlichen Geografien verarbeitet werden, bei einer EU Data Zone innerhalb der festgelegten EU-Zone. Speicherorte und einzelne Funktionen müssen zusätzlich geprüft werden [3].
Welche Regionen, Speicherfristen und Einstellungen zur Missbrauchsüberwachung gelten, hängt vom konkreten Dienst und Vertrag ab. Der Sitz des Anbieters oder ein ausgewähltes Rechenzentrum beantwortet diese Fragen nicht allein. Zu prüfen ist die gesamte Verarbeitungskette des Assistenten.
Europäische Anbieter als Auswahloption
Auch ein europäischer Anbieter kann einen gehosteten KI-Dienst über eine API bereitstellen, etwa Mistral oder ein europäischer Cloud-Anbieter. Das ist eine Anbieterwahl innerhalb des gehosteten Betriebs. Ein Vertragspartner mit Sitz in der EU garantiert keinen ausschließlich europäischen Datenfluss. Prüfen Sie Verarbeitungsregionen, Unterauftragnehmer und die konkret genutzten Funktionen ebenso wie mögliche Drittlandtransfers. Mistral nennt beispielsweise neben der EU-Verarbeitung auch einen US-Endpunkt und mögliche Verarbeitung außerhalb der EU durch bestimmte Funktionen [5].
Modellangebot, Zusatzfunktionen und Kosten unterscheiden sich je nach Anbieter und Dienst. Ob eine Lösung für Zusammenfassungen, Dokumentensuche oder Entwurfsarbeit geeignet ist, klärt ein Pilot mit echten Aufgaben. Der Unternehmenssitz allein sagt darüber wenig aus.
KI selbst betreiben
Beim eigenen Betrieb führen Sie offene Modelle selbst aus, im eigenen Rechenzentrum oder auf dedizierten Servern. Werkzeuge wie Ollama ermöglichen die lokale Ausführung und die Anbindung an Anwendungen über eine API.
Bei vollständig intern betriebener Inferenz können Eingaben und Ausgaben in der eigenen Umgebung bleiben. Dafür müssen auch Dokumentverarbeitung, Embeddings, Protokollierung und weitere Anbindungen entsprechend eingerichtet sein. Das eigene Team übernimmt GPU-Hardware, Modellaktualisierung, Verfügbarkeit, Zugriffskontrolle und die Absicherung der Schnittstellen. Werden Hosting- oder andere Dienstleister eingebunden, müssen deren Rollen und Datenflüsse ebenfalls geprüft werden. Lokal heißt nicht automatisch sicher.
Datenschutz: Auftragsverarbeitung und Datenfluss
Bei einem gehosteten KI-Dienst verarbeitet der Anbieter Daten im Auftrag, dafür braucht es einen Auftragsverarbeitungsvertrag und eine Prüfung, welche Daten der Anbieter zu eigenen Zwecken verwendet, etwa für Missbrauchsüberwachung. Die DSK-Orientierungshilfe verlangt darüber hinaus unter anderem eine festgelegte Rechtsgrundlage, betriebliche statt privater Accounts, Transparenz gegenüber den Beschäftigten und Zurückhaltung bei der Eingabe personenbezogener Daten.
Auf europäischer Ebene hat der Europäische Datenschutzausschuss mit der Stellungnahme 28/2024 geklärt, unter welchen Bedingungen KI-Modelle selbst als personenbezogen gelten und was das für Verantwortliche bedeutet. Für die Auswahl eines Anbieters heißt das: Auch die Herkunft des Modells und seine Trainingsdaten können zur Prüffrage werden, nicht nur der Betrieb.
Die Entscheidung verbindet Betriebsmodell, Anbieter und Verarbeitungsort. Zuerst ist zu klären, welche Daten den Assistenten erreichen dürfen und wer sie verarbeiten darf. Danach lassen sich ein gehosteter KI-Dienst, eigener Betrieb oder eine Kombination bewerten. Ein europäischer Anbieter ist dabei eine mögliche Anbieterwahl, keine eigene Betriebsform.
Kostenlogik: Verbrauch gegen Grundlast
Gehostete Dienste und eigener Betrieb unterscheiden sich auch im Kostenverlauf. Cloud-APIs werden häufig nach Verbrauch abgerechnet: Bei wenig Nutzung fällt wenig an, bei intensiver Nutzung wachsen die Kosten mit, und ein einzelnes Team kann sie mit einem datenhungrigen Anwendungsfall unerwartet treiben. Deshalb gehören Budgetgrenzen und eine Verbrauchsübersicht je Team von Anfang an dazu.
Lokaler Betrieb dreht die Logik um: Hardware, Strom und Betriebszeit fallen weitgehend unabhängig von der Nutzung an. Das lohnt sich erst ab einer gewissen Auslastung, dann aber planbar. Wer die Auslastung noch nicht kennt, startet deshalb sinnvoll mit einem verbrauchsbasierten Modell und misst, bevor er in eigene Hardware investiert.
Betriebsmodelle und Anbieter vergleichen
| Kriterium | Cloud-Dienst, etwa Azure | Dienst eines EU-Anbieters | Eigener Betrieb |
|---|---|---|---|
| Datenfluss | zum Anbieter, Region und Bereitstellung prüfen | zum Anbieter, Verarbeitungsregion prüfen | intern bei entsprechend eingerichteter Verarbeitungskette |
| Vertragsbasis | AV-Vertrag, mögliche Drittlandtransfers prüfen | AV-Vertrag, mögliche Drittlandtransfers prüfen | kein externer Verarbeiter bei vollständig internem Betrieb |
| Modellangebot | abhängig vom Dienst und Modellzugang | abhängig vom Dienst und Modellzugang | offene Modelle, Auswahl selbst kuratiert |
| Betriebsaufwand | gering | gering | hoch, eigenes Team nötig |
| Kostenverlauf | wächst mit dem Verbrauch | wächst mit dem Verbrauch | Grundlast, lohnt ab hoher Auslastung |
Mischformen können sinnvoll sein: Welche Daten an welches Modell gehen, bestimmen Datenklasse, Vertrag und bestätigte Verarbeitungseinstellungen. Ein Gateway kann diese Vorgaben technisch durchsetzen; die Dokumentensuche muss zusätzlich die Zugriffsrechte der jeweiligen Person beachten.
Was Sie danach entscheiden können
- Welches Betriebsmodell zu Ihren Datenklassen passt: gehosteter KI-Dienst, eigener Betrieb oder eine Kombination, jeweils mit geprüften Anbieter- und Regionseinstellungen.
- Welche Verträge und Prüfungen vor dem Start stehen: Auftragsverarbeitung, Drittlandtransfer und die Anforderungen der DSK-Orientierungshilfe.
- Ob Sie verbrauchsbasiert starten und die Auslastung messen oder direkt in eigene Hardware investieren.
Häufige Fragen
Was bedeutet KI-Dienst über eine Cloud-API?
Ihre Anwendung sendet Anfragen über eine Programmierschnittstelle an ein Modell, das der Anbieter betreibt. Die Antwort kommt über dieselbe Schnittstelle zurück. Wo die Verarbeitung stattfindet und welche Daten gespeichert werden, ist je Dienst und Einstellung zu prüfen.
Ist der lokale Betrieb automatisch die datenschutzfreundlichste Wahl?
Nein. Eine vollständig interne Verarbeitungskette kann externe Datenübertragungen vermeiden. Zugriffskontrolle, Schnittstellen, Dokumentverarbeitung und Protokollierung müssen dafür passend eingerichtet sein. Auch bei lokalem Betrieb bleiben Datenschutz und Sicherheit Aufgaben des betreibenden Teams.
Können wir mehrere Betriebsmodelle kombinieren?
Ja. Welche Daten an welches Modell gehen, bestimmen Datenklasse, Vertrag und bestätigte Verarbeitungseinstellungen. Ein Gateway kann Anfragen entsprechend zuordnen. Die Dokumentensuche muss zusätzlich die Zugriffsrechte der jeweiligen Person durchsetzen.
Müssen wir vor dem Start den Datenschutzbeauftragten einbinden?
Ja, und zwar vor der Anbieterwahl. Auftragsverarbeitungsvertrag, Drittlandprüfung und die Anforderungen der DSK hängen am Betriebsmodell, und eine spätere Korrektur berührt alle Anbindungen, die inzwischen entstanden sind.
Quellen
- Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 (PDF) Datenschutzkonferenz (DSK), 6. Mai 2024
- Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models European Data Protection Board, 18. Dezember 2024
- Data, privacy, and security for Foundry Models sold by Azure Microsoft Learn
- Ollama Documentation Ollama
- Where do you store my data or my organization’s data? Mistral AI
- Claude API overview Anthropic, direkter API-Zugang und Cloud-Plattformen
- OpenAI API overview OpenAI-Dokumentation