Azure OpenAI und Amazon Bedrock: GPT und Claude für Ihre Unternehmensdaten, im eigenen Konto

Ihr Unternehmen kann GPT und Claude auf eigenen Daten nutzen, ohne einen neuen Anbietervertrag: Anfragen laufen über Ihr bestehendes Azure- oder AWS-Konto, können auf privaten Netzwegen bleiben und erscheinen auf der Rechnung, die Sie schon bekommen. Die Teams bekommen einen freigegebenen Weg zu den Modellen, und niemand braucht ein privates Konto, um seine Arbeit zu erledigen.

Wo Anbieter und Verarbeitungsort für Ihre Kunden oder Ihren Datenschutzbeauftragten zählen, können Sie zeigen, wohin jede Anfrage geht. In einer 2026 veröffentlichten Bitkom-Studie gaben 93 % der Unternehmen an, deutsche KI-Anbieter zu bevorzugen, und 88 % nannten das Herkunftsland des Anbieters wichtig. Eine EU-Bereitstellung im eigenen Konto beantwortet einen Teil dieser Frage. Wo das nicht reicht, schickt dasselbe Gateway sensible Aufgaben an Modelle auf Ihren eigenen Servern.

• Kommerzielle Modelle für interne Dokumente und Vorgänge, unter Verträgen, die Sie schon verwalten.
• Verarbeitung in der EU, an einer Stelle für alle Teams durchgesetzt.
• Ein Schlüssel und ein Budget je Team, mit Ausgaben je Team und Anwendung ausgewiesen.
• Keine Abhängigkeit von einem Anbieter: Azure, AWS und eigene Modelle hinter einer Schnittstelle, wechselbar je Aufgabe.

Wenn Modelle über Ihr eigenes Azure- oder AWS-Konto laufen, bleiben sie unter Verträgen, Auftragsverarbeitungsverträgen, Identitäten, Netzwerk und Abrechnung, die Sie schon verwalten. Anfragen können auf privaten Netzwegen bleiben, Zugriffe folgen Ihren bestehenden Rollen, und die Kosten erscheinen auf derselben Rechnung wie der Rest Ihrer Infrastruktur.

Wo eine Anfrage verarbeitet wird, hängt von der gewählten Bereitstellungsart ab, nicht nur von der Region. Bei Azure kann eine globale Bereitstellung Anfragen außerhalb der gewählten Region verarbeiten, während eine Bereitstellung in der EU-Datenzone die Verarbeitung in der EU hält. Bei Amazon Bedrock laufen Anfragen in der aufgerufenen Region oder, mit einem EU-Profil für regionsübergreifende Inferenz, über EU-Regionen verteilt. Ein globales Inferenzprofil kann Anfragen weltweit leiten. Welche Modelle in welcher Bereitstellungsart verfügbar sind, ändert sich oft, deshalb prüfen wir die aktuellen Listen für die Modelle, die Sie brauchen.

Datenstandort und Rechtsordnung sind verschiedene Fragen. Microsoft und Amazon sind US-Unternehmen, und eine EU-Region schließt den Zugriff von US-Recht wie dem CLOUD Act nicht von selbst aus. Für viele Unternehmen reichen Verträge, Verschlüsselung und Verarbeitung in der EU. Wo nicht, sind eigene Server oder ein EU-Anbieter die Antwort, und dafür gibt es unsere On-Premise-KI. Das ist keine Rechtsberatung: Die Entscheidung treffen Sie, beraten von Ihrem Datenschutzbeauftragten und Ihren Juristen.

Beide Anbieter erklären, dass Prompts und Antworten in diesen Diensten nicht zum Training der Modelle genutzt und nicht an die Modellhersteller weitergegeben werden. Azure betreibt eine Missbrauchsüberwachung, bei der Daten begrenzte Zeit aufbewahrt werden können, und bietet ein Antragsverfahren, um das zu ändern. Die aktuellen Bedingungen gehen wir mit Ihrem Datenschutzbeauftragten durch, weil sie sich ändern, und halten das Ergebnis in der Systemdokumentation fest.

Ein LiteLLM-Gateway vor allen Bereitstellungen gibt jedem Team eine Schnittstelle, mit Schlüsseln, Budgets und Protokollen je Team. Seine Modellliste kann nur EU-Bereitstellungen enthalten, ohne Ausweichen auf globale, sodass die Routing-Regel an einer Stelle durchgesetzt wird statt in jeder Anwendung. Modelle, die Sie selbst mit vLLM betreiben, können hinter demselben Gateway stehen.

Anbieter nehmen Modellversionen nach eigenem Plan außer Betrieb und veröffentlichen neue. Wir prüfen das System vor dem Go-live gegen vereinbarte Abnahmekriterien und führen dieselben Tests vor jedem Wechsel der Modellversion aus, damit ein Anbieter-Update nicht unbemerkt ändert, wie Ihr Assistent antwortet.