KI für Ihre RolleIT-Leitung
KI für die IT-Leitung: freigegebene KI, die Ihr Team auch betreiben kann
Die Geschäftsführung will wissen, was die IT mit KI macht. Die Beschäftigten nutzen längst private Werkzeuge, und Ihr Team hat keine Luft. Der Ausweg ist ein freigegebener Assistent auf Modellen, die Sie kontrollieren, hinter einem Gateway und so schlank aufgebaut, dass Ihr Team ihn betreiben kann.
Erste Schritte für die IT
- 1
Ermitteln Sie aus Proxy-, Lizenz- und Spesendaten, welche KI-Werkzeuge schon genutzt werden, auch private.
- 2
Entscheiden Sie, wo Modelle laufen dürfen: in Ihrem eigenen Cloud-Konto in einer EU-Region, auf eigenen Servern oder beides je nach Datenklasse.
- 3
Stellen Sie ein Gateway vor alle Modelle, mit Single Sign-on, Budgets und Protokollen.
- 4
Binden Sie die erste Datenquelle mit ihren Berechtigungen an und testen Sie, was jeder Nutzer sehen kann.
- 5
Legen Sie fest, wer es nach dem Go-live betreibt, mit Betriebshandbüchern, die Ihr Team nutzen kann.
Was die IT bei KI liefern soll
Von der IT wird ein freigegebener Weg erwartet, KI mit Unternehmensdaten zu nutzen, der sicher und bezahlbar ist und den das Team betreiben kann. In der Flexera-Umfrage 2025 sagen 95 % der deutschen IT-Entscheider, dass sie Innovationen schneller liefern und zugleich den ROI belegen müssen, und 94 % integrieren KI in bestehende Systeme.
Die Beschäftigten warten derweil nicht. In der IW-Studie aus dem Jahr 2026 nutzen 29,1 % der Beschäftigten, die bei der Arbeit KI verwenden, Werkzeuge, die ihr Arbeitgeber nicht bereitgestellt hat. Das Fazit der Autoren: „Wer fördert, ohne bereitzustellen, macht die Nutzung unkontrollierbar.“ In der Bitkom-Umfrage 2025 gaben nur 26 % der Unternehmen ihren Beschäftigten Zugang zu generativer KI. Ein Administrator fasste das Ergebnis 2026 in einem Forum so zusammen: „Ob der MA da Kundendaten reinschüttet, weiß natürlich niemand.“
- Einen freigegebenen Assistenten für alle Beschäftigten, auf Modellen, die Sie kontrollieren, damit private Werkzeuge überflüssig werden.
- Antworten aus dem Unternehmenswissen in SharePoint, Dateiablagen, Wikis und Tickets, mit den Berechtigungen jedes Nutzers.
- Agenten, die an ERP, CRM und Ticketsysteme angebunden sind, mit engen Rechten und Freigaben.
- Einen Kontrollpunkt für Zugriff, Kosten und Protokolle über alle Modelle und Teams.
- Einen Betrieb, der ohne Heldentaten funktioniert: Überwachung, Updates, Modellwechsel und Betriebshandbücher.
Die Fragen, die der IT gestellt werden
Sie kommen von der Geschäftsführung, vom Datenschutzbeauftragten, von den Beschäftigten und von IT-Kollegen in Foren. Die meisten beantwortet die Architektur, also klären Sie die Architektur zuerst.
- Von der Geschäftsführung: „Was machen wir mit KI?“ und „Was läuft bereits produktiv, was ist noch Pilot oder Spielwiese?“
- Von IT-Kollegen: Habt ihr sie offiziell eingeführt, „oder ist das bei euch ein No-Go wegen Datenschutz, Compliance etc.?“
- Vom Datenschutzbeauftragten: „Wo werden unsere Daten verarbeitet?“
- Von den Beschäftigten: „Warum darf ich dafür nicht ChatGPT nutzen?“
- Von Ihnen selbst: „Was passiert, wenn ein Modell teurer, langsamer oder schlechter wird?“ und „Wer wartet die Lösung, wenn das Projektteam weg ist?“
Was die IT entscheidet, und in welcher Reihenfolge
Der Betriebsort kommt vor den Werkzeugen, die Berechtigungen kommen vor den Agenten. Jede der folgenden Entscheidungen grenzt die nächste ein.
- Erstens eine Bestandsaufnahme: welche KI-Werkzeuge im Einsatz sind, von wem und mit welchen Daten. Lizenzlisten, Proxy-Logs und Spesenabrechnungen reichen meist aus.
- Zweitens, wo Modelle laufen. Ihr eigenes Cloud-Konto mit Azure OpenAI oder Amazon Bedrock in einer EU-Region passt, wenn Sie dort schon arbeiten und schnell skalieren wollen. Eigene Server mit Open-Weight-Modellen, deren Gewichte Sie selbst betreiben, passen, wenn Daten das Gebäude gar nicht verlassen dürfen. Viele Unternehmen kombinieren beides je nach Datenklasse.
- Drittens ein Gateway: ein einziger kontrollierter Zugang zu allen Modellen, mit Schlüsseln, Budgets und Protokollen, angebunden an Ihren Identitätsanbieter für Single Sign-on und gruppenbasierte Rechte.
- Viertens Daten und Berechtigungen: welche Quellen zuerst angebunden werden, etwa SharePoint, Dateiablagen, das ERP oder das Ticketsystem, und wie ihre Berechtigungen bei der Suche angewendet werden, damit niemand eine Antwort aus einem Dokument sieht, das er nicht öffnen darf.
- Fünftens die Rechte von Agenten: zuerst lesen, schreiben nur über eng geschnittene Werkzeuge, die je eine fachliche Aktion ausführen, unter Dienstkonten mit minimalen Rechten und mit Freigaben, wo es darauf ankommt. MCP, ein Standard, über den ein Agent mit eigenen Berechtigungen auf ein System zugreift, ist ein Weg, diese Werkzeuge zu bauen.
- Sechstens, wer es betreibt: Ihr Team, Cloudsail oder beide gemeinsam, mit Überwachung, einem Prozess für Updates und Modellwechsel und Betriebshandbüchern.
- Siebtens bauen oder kaufen, je Anwendung. Microsoft 365 Copilot deckt die Arbeit innerhalb von Microsoft 365 für lizenzierte Nutzer ab. Ein eigener Assistent passt, wenn die Daten außerhalb von Microsoft 365 liegen, wenn Datenresidenz oder Berechtigungen den SaaS-Weg ausschließen oder wenn Lizenzen pro Nutzer für alle Beschäftigten sich nicht rechnen. Ein Administrator schrieb 2026, eine selbst betriebene Oberfläche mit nutzungsabhängig abgerechneten Modellen sei „deutlich günstiger als personalisierte Zugänge“.
Die Risiken, die bei der IT liegen, und wie man sie beherrscht
Eines davon ist die Abhängigkeit. Laut DIHK-Digitalisierungsumfrage 2026 sehen sich Unternehmen bei KI zu 66 % weitgehend oder vollständig abhängig von Anbietern außerhalb der EU. Für jedes der folgenden Risiken gibt es eine technische Kontrolle.
- Daten, die das Haus verlassen. Modelle in Ihrem eigenen Cloud-Konto in einer EU-Region oder auf eigenen Servern, Routing-Regeln im Gateway je Datenklasse und Protokolle in Ihrem eigenen Speicher.
- Schatten-KI. Ein freigegebenes Werkzeug, das gut genug ist, um genutzt zu werden, erreichbar über Single Sign-on, während externe KI-Dienste wie bisher per Richtlinie gesperrt bleiben.
- Agenten mit zu vielen Rechten. Ein Administrator schrieb 2026: „Auch für einen Agent sollten Zugriffsrechten gelten.“ Dienstkonten mit minimalen Rechten, eine fachliche Aktion pro Werkzeug, Freigaben für Änderungen und ein Protokoll jedes Aufrufs.
- Modelle, die sich unter Ihnen ändern. Modellversionen werden fest eingestellt, die Tests laufen vor jedem Wechsel erneut, und das Gateway kann auf ein anderes Modell ausweichen.
- Keine Kapazität für den Betrieb. Bitkom meldete 2026, dass 79.000 IT-Fachkräfte fehlen und 97 % der Unternehmen Schwierigkeiten haben, IT-Stellen zu besetzen. Deshalb bleibt der Aufbau klein, ist in Betriebshandbüchern dokumentiert und kann von Cloudsail betrieben werden, bis Ihr Team übernimmt.
- Altsysteme. Die Lünendonk-Studie 2026 nennt Legacy-IT ohne Integrationsschichten und schlechte Datenanbindung als Haupthindernisse für die Skalierung von Agenten. Wir beginnen mit den Schnittstellen, die Ihre Systeme schon haben, und lesen, bevor wir schreiben.
- Werkzeuge, die Leute außerhalb der IT bauen. Geben Sie Teams einen leichten, freigegebenen Weg über das Gateway, damit ihre Experimente nicht zu inoffiziellen Produktivsystemen werden.
Für die Informationssicherheit: Angriffsfläche, Vorfälle und Prüfungen
Sicherheitsteams sehen KI von zwei Seiten. In der KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband, über die die ZfK berichtete, melden 17 % der Unternehmen bestätigte oder vermutete KI-gestützte Angriffe oder Betrugsversuche. Nach innen haben nur 11 % der Unternehmen, die KI nutzen oder planen, Prozesse für KI-spezifische Sicherheitsvorfälle, 25 % haben keine Regeln, 52 % testen KI-Anwendungen vor dem Einsatz auf Sicherheitsrisiken, 40 % protokollieren oder überwachen die KI-Nutzung und 64 % beschränken Zugriffsrechte.
- Angriffsfläche. Prompt Injection, also in Dokumenten, E-Mails oder Webseiten versteckte Anweisungen, die einen Agenten zum Handeln bringen sollen, wird vor dem Go-live getestet, ebenso Werkzeugrechte, der Umgang mit Geheimnissen und was eine Ausgabe preisgeben kann.
- Prozess für Vorfälle. Eine schriftliche Definition, was als KI-Vorfall gilt, ein Schalter zum Abschalten jedes Agenten oder Werkzeugs, Schlüssel, die im Gateway widerrufen werden können, und Protokolle, die an Ihr bestehendes Monitoring gehen.
- NIS2 und Prüfungen. Wo NIS2 oder eine Prüfung für Ihr Unternehmen gilt, sind Architektur, Zugriffsregeln, Testberichte und Protokolle die Unterlagen, mit denen die Bewertung arbeitet. Ob und wie NIS2 gilt, entscheiden Ihre Sicherheits- und Rechtsverantwortlichen.
- Zertifizierung. 51 % der Unternehmen, die KI nutzen oder planen, sehen Zertifizierungen durch unabhängige Stellen als wichtiges Auswahlkriterium (BSI und TÜV, 2026). Fragen Sie jeden Anbieter, welche Zertifizierungen er für welchen Geltungsbereich hat, und verlangen Sie zusätzlich Architektur und Testberichte.
Welche Nachweise die IT von jedem KI-Anbieter verlangen sollte
In der Akima-Studie, über die Computerwoche 2026 berichtete, nennen deutsche IT-Entscheider sichtbare eigene Experten, überprüfbare Referenzen und Zertifizierungen unter den Signalen, die ihr Vertrauen in einen Anbieter begründen. Verlangen Sie darüber hinaus Folgendes.
- Ein Datenflussdiagramm: wo Eingaben, Dokumente, Ausgaben und Protokolle verarbeitet und gespeichert werden, wie lange und wer Zugriff hat.
- Das Berechtigungsmodell, einschließlich der Dienstkonten, die Agenten nutzen, und was jedes lesen und schreiben darf.
- Berechtigungstests: den Nachweis, dass ein Nutzer keine Antwort aus einem Dokument erhält, das er nicht öffnen darf.
- Einen Abnahmetestbericht zu Ihren eigenen Fällen und dieselben Tests, erneut ausgeführt nach jeder Modell- oder Konfigurationsänderung.
- Betriebshandbücher, Überwachung und eine Übergabe, die Ihr Team durchgespielt und nicht nur gelesen hat.
- Engineers, mit denen Sie sprechen können und die das System selbst bauen.
Wo die IT anfängt
Beginnen Sie mit einem kostenlosen 30-minütigen Gespräch mit einem unserer Engineers. Es braucht keinen Zugriff auf Ihre Systeme oder Daten. Bringen Sie Ihre heutige Umgebung mit, etwa Microsoft 365, die genutzte Cloud, die Hauptsysteme und was heute gesperrt ist, und gehen Sie mit einer Skizze zu Betriebsort, Gateway und Berechtigungen.
Wenn es Lizenz- oder Nutzungsexporte gibt, macht die kostenlose KI-Nutzungsanalyse daraus eine Seite dazu, was von wem zu welchen Kosten genutzt wird. Sie ist zugleich der Anfang Ihrer KI-Bestandsaufnahme.
Fragen
KI offiziell einführen oder wegen Datenschutz verbieten?
Ein Verbot allein drängt die Nutzung in private Werkzeuge, die Sie nicht sehen. Sicherer ist ein freigegebenes Werkzeug auf Modellen, die Sie kontrollieren, während externe Dienste gesperrt bleiben. Der Datenschutz wird dann über den Betriebsort der Modelle und die Protokollierung geregelt, abgestimmt mit Ihrem Datenschutzbeauftragten.
Wie gehen wir mit Schatten-KI um?
Ermitteln Sie, was genutzt wird, und bieten Sie dann etwas Besseres an. Eine Bestandsaufnahme aus Lizenz-, Proxy- und Spesendaten zeigt die genutzten Werkzeuge, ein freigegebener Assistent mit Single Sign-on und Unternehmenswissen gibt den Leuten einen Grund zu wechseln, und das Gateway zeigt die Nutzung pro Team, nie pro Person.
Können wir KI ohne Cloud betreiben?
Ja. Open-Weight-Modelle laufen auf eigenen Servern mit GPUs in Ihrem Rechenzentrum, mit Index, Gateway und Protokollen daneben. Das braucht Hardware, Strom und jemanden, der es betreibt. Deshalb dimensionieren wir es nach den Anwendungsfällen und können es mit Ihnen betreiben.
Wo werden unsere Daten verarbeitet?
Dort, wo Sie es festlegen: in Ihrem eigenen Cloud-Konto in einer gewählten EU-Region oder auf eigenen Servern. Das Datenflussdiagramm zeigt jeden Schritt, auch wo Eingaben, Ausgaben und Protokolle gespeichert werden und wie lange.
Microsoft 365 Copilot oder eigener KI-Assistent?
Copilot passt, wenn Arbeit und Daten in Microsoft 365 liegen und sich Lizenzen pro Nutzer rechnen. Ein eigener Assistent passt, wenn wichtige Daten in anderen Systemen liegen, wenn er auf eigenen Servern laufen muss oder wenn Sie für viele Gelegenheitsnutzer nach Verbrauch abrechnen wollen. Viele Unternehmen nutzen beides unter denselben Regeln.
Wer betreibt das System nach dem Go-live?
Ihr Team, Cloudsail oder beide, wie vor dem Bau vereinbart. In jedem Fall erhalten Sie Code, Konfiguration, Tests und Betriebshandbücher, und Ihre Leute lernen den Aufbau, während wir bauen, damit er auch ohne uns weiterläuft.
Was passiert, wenn ein Modell teurer, langsamer oder schlechter wird?
Modellversionen werden fest eingestellt, damit sich nichts überraschend ändert. Vor einem Wechsel laufen die Abnahmetests auf dem Kandidatenmodell und vergleichen Qualität, Geschwindigkeit und Kosten. Danach leitet das Gateway auf das neue Modell um oder hält ein Ausweichmodell bereit.
Ist eine Azure-OpenAI-Instanz in einer EU-Region vor dem CLOUD Act geschützt?
Eine EU-Region legt fest, wo Daten verarbeitet werden, der Anbieter bleibt aber ein US-Unternehmen, das US-Recht unterliegt. Ob dieses Risiko tragbar ist, ist eine rechtliche Bewertung für Ihren Datenschutzbeauftragten und Ihre Juristen. Wenn nicht, erübrigt sich die Frage mit Open-Weight-Modellen auf eigenen Servern. Die Einzelheiten stehen auf unserer Seite für Datenschutzbeauftragte.
Verwandte Leistungen
KI-Plattform für alle Teams
Ein freigegebener Zugang zu KI für jedes Team, mit Budgets, Protokollen und freier Modellwahl, betrieben auf Ihren Servern oder in Ihrer Cloud.
On-Premise-KI
KI für Angebote, Verträge und Kundenakten, und die Daten bleiben im Unternehmen: eigene Server oder eigenes Cloud-Konto, vor dem Go-live geprüft.
Azure OpenAI und Bedrock
GPT und Claude für Unternehmensdaten, unter Ihren bestehenden Cloud-Verträgen: Azure OpenAI und Amazon Bedrock im eigenen Konto, mit Verarbeitung in der EU und einem Gateway.
Datenintegration für KI
Antworten aus Dateiablagen, SharePoint, ERP und Tickets in Sekunden, für Assistenten und Agenten, mit übernommenen Berechtigungen und Tests.
Qualitätssicherung für KI-Systeme
Vor dem Go-live zeigen Abnahmetests auf Ihren eigenen Fällen, wie oft Chatbot, Assistent oder Agent richtig liegen, in den Begriffen, die Ihr QA-Team kennt.
IT-Servicedesk und IT-Betrieb
Ihr Servicedesk sortiert keine Tickets mehr von Hand und beginnt mit einem fertigen Antwortentwurf, und die Bereitschaft findet schneller das passende Runbook.
Aus dem Blog
Schatten-KI: verbieten oder ersetzen
Schatten-KI wächst, wo Unternehmen KI fördern, ohne sie bereitzustellen, und Verbote drängen sie auf private Smartphones. Besser ist eine freigegebene Plattform, die Ihre KI-Richtlinie technisch durchsetzt.
ChatGPT im Unternehmen und Datenschutz
Vier Wege, KI im Stil von ChatGPT im Unternehmen zu nutzen, von privaten Konten bis zu eigenen Servern, und was dabei jeweils das Haus verlässt. Den Ausschlag geben die sensibelsten Daten.
Was ein LLM-Gateway leistet
Was ein LLM-Gateway (auch AI Gateway oder LLM-Proxy genannt) Ihren Anwendungen abnimmt und was beim Rest der Plattform bleibt, dazu die wichtigsten Optionen im Vergleich, Stand 7. November 2026.
Grenzen gegen Prompt Injection
Wie Sie den Schaden begrenzen, wenn ein Agent Anweisungen aus einem Dokument, einer E-Mail oder einem Tool-Ergebnis befolgt: Eingaben und Aktionen abbilden, Wege kappen, Grenzen testen.
Mit einem Engineer sprechen
Bringen Sie Ihre heutige Umgebung mit und was heute gesperrt ist. Das Gespräch dauert 30 Minuten und braucht keinen Zugriff auf Ihre Systeme oder Daten.
Die Buchung läuft über Google Kalender.
Lieber zuerst schreiben? Hinterlassen Sie Ihre E-Mail-Adresse und ein paar Zeilen, dann antworten wir mit Terminvorschlägen.
Sehen Sie in Ihrem E-Mail-Programm nach dem Entwurf
Senden Sie ihn von dort ab, und ein Engineer antwortet Ihnen persönlich mit Terminvorschlägen für ein 30-minütiges Gespräch. Hat sich kein Entwurf geöffnet, schreiben Sie uns an miki@cloudsail.com.