Was Unternehmen uns zu KI fragen, sortiert nach Rolle

Die Geschäftsführung fragt, ob sich KI lohnt, die Finanzabteilung, was sie kostet, die IT, wo sie läuft, und der Betriebsrat, was protokolliert wird. Wir haben die Fragen, die wir hören, nach Rolle sortiert. Zu jeder gibt es eine kurze Antwort und einen Link zur Seite mit den Details.

Für Geschäftsführung und Inhaber

Ob sich KI auszahlt, wo Sie anfangen und mit wem Sie sie umsetzen.

Ist KI nur ein Hype, oder fallen wir ohne sie zurück?

KI ist im Alltag angekommen: In der Bitkom-Umfrage 2026 nutzen 57 % der Unternehmen mit 20 oder mehr Beschäftigten KI. Ob Sie zurückfallen, ist weniger wichtig als die Frage, ob sie sich in einem Ihrer Prozesse auszahlt. Das können Sie an Ihren eigenen Fällen messen, bevor Sie mehr investieren.

Für die Geschäftsführung

Welchen konkreten Mehrwert bringt KI für unser Unternehmen?

Vor allem weniger Stunden pro Vorgang bei Routinearbeit mit Dokumenten, Anfragen und Aufträgen und schnellere Antworten für Kunden und Beschäftigte. Dazu kommt Arbeit, die heute mangels Personal liegen bleibt. Was davon bei Ihnen zutrifft, hängt von Ihren Prozessen ab. Die Seiten zu den Anwendungsfällen zeigen, was sich in jedem Bereich ändert.

Anwendungsfälle

Lohnt sich KI für den Mittelstand, und ab wann rechnet es sich?

Es rechnet sich, wenn ein Prozess häufig läuft, heute messbar Stunden kostet und mit KI seine Qualität hält. Rechnen Sie es für einen Prozess durch: heutige Kosten pro Vorgang, Kosten für Aufbau, Betrieb und Nutzung, Prüfaufwand und die Schwelle, die das Ergebnis erreichen muss. Geht die Rechnung nicht auf, hören Sie auf, bevor etwas gebaut wird.

KI-Business-Case

Was sind die größten Hürden, und wie prüfen wir, ob wir für KI bereit sind?

In der Bitkom-Umfrage 2026 nannten KI-nutzende Unternehmen Datenschutz (66 %), rechtliche Unsicherheit (56 %) und schwer kalkulierbare Kosten (54 %) als größte Hürden. Ihre eigene Bereitschaft prüfen Sie am besten an einem echten Prozess: Kompetenzen, Daten, Systeme, Regeln und Menschen, jeweils für diesen Prozess, statt mit einem allgemeinen Reifegrad. Manche IHKs bieten kostenlose Checks an, und unser 30-minütiges Erstgespräch ist ebenfalls kostenlos.

KI-Readiness-Check

Wo fangen wir mit KI an, und was ist der richtige erste Schritt?

Mit einem Ablauf, an dem eine Zahl hängt, etwa aufgewendete Stunden oder bearbeitete Fälle, und einem klaren Erfolgskriterium. Bewerten Sie die Kandidaten nach Menge, danach, wie schnell ein Mensch das Ergebnis prüfen kann, und ob die Daten erreichbar sind. Ihre Strategie wächst dann aus den ersten zwei oder drei solchen Fällen.

KI im Unternehmen einführen

Brauchen wir eine KI-Strategie oder eine KI-Roadmap, bevor wir anfangen?

Eine kurze: welche Prozesse in welcher Reihenfolge, welche Daten wohin dürfen, wer jedes System verantwortet und was es liefern muss. Am Ende sollte ein System stehen, das auf Ihren Daten läuft. Fragen Sie jeden Partner, ob Sie am Ende ein PDF bekommen oder etwas, das läuft.

KI-Strategie und KI-Einführung

Wie führen wir KI im Unternehmen Schritt für Schritt ein, und sollten wir mit einem Proof of Concept starten?

Einen Prozess wählen, ihn heute messen, einen Pilot an Ihren eigenen Fällen mit Abnahmekriterien bauen, ihn an die echten Systeme anbinden und mit einer benannten verantwortlichen Person live gehen. Ein Proof of Concept mit sauberen Beispieldaten beweist wenig. Ein Pilot mit echten Fällen und mit den Menschen, die später die Ergebnisse prüfen, zeigt, ob sich weitere Investitionen lohnen.

KI im Unternehmen einführen

Sollten wir ein KI-Produkt kaufen oder selbst bauen?

Kaufen, wenn ein Produkt den Ablauf und Ihre Datenregeln abdeckt. Selbst bauen, wenn die Arbeit durch Ihre eigenen Systeme läuft oder kein Produkt Ihre Datenanforderungen erfüllt.

KI kaufen oder bauen

Wir haben keine KI-Fachkräfte. KI-Agentur, KI-Beratung oder Inhouse aufbauen?

Für den Anfang brauchen Sie keinen Data Scientist. Sie brauchen jemanden, der den Prozess verantwortet, jemanden, der das System betreibt, und Engineers, die KI bereits produktiv betrieben haben. Mit einem Partner, der mit Ihren Leuten baut und Code, Tests und Runbooks übergibt, können Sie später zum eigenen Team wechseln.

KI-Agentur, Beratung oder eigenes Team

Wie wählen wir den richtigen KI-Berater, und woran erkennen wir einen unseriösen?

Fragen Sie nach Belegen: ein System, das der Anbieter produktiv betreibt, wie er Qualität an Ihren Fällen misst, wem der Code danach gehört und wer ihn sonst bezahlt, etwa Tool-Hersteller. Vorsicht bei allen, die Ergebnisse versprechen, bevor sie Ihre Daten gesehen haben, oder nicht sagen können, wie sie ein scheiterndes Projekt stoppen würden.

KI-Agentur, Beratung oder eigenes Team

Wie lange dauert die Umsetzung eines KI-Projekts?

Das hängt weniger vom Modell ab als vom Zugang zu Daten und Systemen, davon, wie schnell Freigaben kommen, und wie viele Systeme der Ablauf berührt. Wir vereinbaren Umfang und Festpreis für jeden Schritt schriftlich, sodass Sie nach jedem Schritt entscheiden, ob es weitergeht.

So arbeiten wir

Wer haftet, wenn die KI einen Fehler macht?

Das Unternehmen bleibt für das verantwortlich, was es mit KI tut. Wie die Haftung im Vertrag verteilt wird, beurteilen Ihre Anwälte, und das hier ist keine Rechtsberatung. Gestalten lässt sich die Kontrolle: Der Agent bereitet vor, ein Mensch gibt Zahlungen, Buchungen und alles frei, was Kunden erreicht, und jeder Schritt wird protokolliert, sodass sich ein Fehler nachvollziehen und korrigieren lässt.

Für die Geschäftsführung

Kann KI Arbeitsplätze im Mittelstand ersetzen?

Das entscheidet die Geschäftsführung. KI übernimmt Aufgaben, und Sie entscheiden, ob die frei werdenden Stunden mehr Volumen auffangen, Rückstände abbauen, in andere Arbeit gehen oder zu weniger Stellen führen. Legen Sie das vor dem Rollout fest, informieren Sie Team und Betriebsrat früh und werten Sie Ergebnisse nur auf Teamebene aus.

Change Management bei KI

Für Finanzen und Einkauf

Was KI kostet und bringt, wo sie in Buchhaltung und Einkauf hilft und wie Sie sie ohne Abhängigkeit einkaufen.

Die KI-Kosten steigen, und niemand kann den Nutzen zeigen. Was tun?

Messen Sie die Kosten pro akzeptiertem Ergebnis, nicht pro Token, und ordnen Sie jedes Werkzeug und Team der Arbeit zu, die es leistet. Stoppen Sie nur die Vorhaben ohne Ausgangswert oder ohne verantwortliche Person. Unsere kostenlose einseitige Nutzungsanalyse ist ein erster Schritt.

Kostenlose KI-Nutzungsanalyse

Was kann KI in der Buchhaltung automatisieren, und wo zählt Kontrolle?

Die Prüfung: Rechnungspositionen mit Bestellungen und Wareneingängen abgleichen, Preise mit Verträgen vergleichen, Dubletten finden und die Kontierung vorschlagen. Zahlungsfreigabe, geänderte Bankdaten, Abweichungen über Ihrer Toleranz und Steuerfragen bleiben bei einem Menschen. Die E-Rechnung erspart das Auslesen, die Prüfung bleibt.

Rechnungsprüfung und Buchhaltung

Wie viel spart KI im Einkauf realistisch?

Eine ehrliche allgemeine Zahl gibt es nicht, also messen Sie Ihre eigene. Die Einsparung liegt vor allem im Aufwand der Einkäufer je Angebot und je Auftragsbestätigung und in Abweichungen von Bestellungen, die nicht mehr übersehen werden. Erfassen Sie beides vorher und nachher an Ihren eigenen Dokumenten.

Einkauf und Beschaffung

Welche Kosten entstehen durch KI, und was kostet der Einstieg?

Die Modellgebühren sind oft der kleinere Teil: In der Bitkom-Umfrage 2026 nannten Unternehmen Infrastruktur (51 %), Datenaufbereitung (50 %) und Integration (41 %) weit häufiger als KI-Kosten als Tokens (8 %), und dazu kommen die Menschen, die Ergebnisse prüfen und korrigieren. Rechnen Sie alles pro akzeptiertem Ergebnis. Wir nennen einen Festpreis für jeden Schritt, schriftlich vereinbart nach dem Erstgespräch.

Vollkosten eines KI-Workflows

Wie lange dauert es, bis sich ein KI-Projekt amortisiert, und wie erstellen wir den Business Case?

Das ergibt sich aus vier Werten, die Sie messen: Aufbaukosten, Betriebskosten, heutige Kosten pro Vorgang und Kosten pro Vorgang mit KI, multipliziert mit Ihrer Menge. Ein Business Case für KI braucht außerdem eine Qualitätsschwelle, den Prüfaufwand und Abbruchkriterien, die allgemeine Vorlagen weglassen.

KI-Business-Case

Wie messen wir den KI-ROI, wenn der Nutzen diffus ist, und welche KPIs zählen?

Messen Sie einen Prozess nach dem anderen: Kosten pro bearbeitetem Vorgang, Stunden pro Vorgang, Vorgänge pro Person, Fehler- und Korrekturquote und den Anteil der Vorgänge ohne Nacharbeit, vorher und nachher an derselben Art von Vorgängen. Lizenzzahlen und Logins sagen für sich wenig.

Für CFO und Finanzleitung

Wird KI-Beratung oder ein KI-Projekt gefördert?

Manchmal. Förderprogramme ändern sich oft, und manche fördern nur die Beratung, andere auch die Umsetzung. Ihre IHK sagt Ihnen, welche heute für Ihr Unternehmen gelten. Klären Sie die Bedingungen, bevor Sie damit planen.

KI im Unternehmen einführen

Tagessatz oder Festpreis, und wie vergleichen wir Angebote für KI-Projekte?

Projektarbeit rechnen wir zum Festpreis je Schritt ab, schriftlich vereinbart nach dem Erstgespräch. Achten Sie beim Vergleich darauf, dass jedes Angebot den Umfang, die Abnahmekriterien und getrennte Zahlen für Aufbau, Betrieb und Modellverbrauch nennt und regelt, wem am Ende Code, Tests und Runbooks gehören.

So arbeiten wir

Wie vermeiden wir Abhängigkeit, und können wir den Anbieter später wechseln?

Halten Sie Code, Prompts, Testsets und Daten in Ihren eigenen Repositories, setzen Sie ein Gateway zwischen Anwendungen und Modelle, damit das Modell wechseln kann, und legen Sie im Vertrag fest, dass Ihr eigenes Team oder ein anderer Partner übernehmen kann. Planen Sie den Ausstieg, bevor Sie unterschreiben.

Ausstiegsplan für KI-Anbieter

Was sollte ein KI-Pilot belegen, bevor wir die nächste Stufe finanzieren?

Dass das System an echter Arbeit die vereinbarte Qualität erreicht, zu Kosten pro akzeptiertem Ergebnis, mit denen Sie leben können, und dass es nach der Pilotphase jemand verantwortet.

Erfolgskriterien für KI-Piloten

Für Fachbereiche, Betrieb und Digitalisierungsverantwortliche

Welche Arbeit KI in Ihrem Bereich und Ihrer Branche übernimmt und wie aus einem Pilot ein System wird, das genutzt wird.

Welche Prozesse eignen sich für die Automatisierung mit KI, und welche kommen zuerst?

Häufige Arbeit mit einem klaren richtigen Ergebnis, das ein Mensch schnell prüfen kann: Eingangsrechnungen, Auftragsbestätigungen, Kundenmails, interne Fragen zu Richtlinien oder Handbüchern. Seltene Fälle, unklare Ergebnisse und nicht umkehrbare Aktionen kommen später oder bleiben beim Menschen.

Fachbereichs- und Betriebsleitungen

Was ist der Unterschied zwischen einem einfachen Chatbot und einem KI-Agenten, und sollten wir schon Agenten einsetzen?

Ein Chatbot beantwortet Fragen. Ein Agent führt Schritte in Ihren Systemen aus, etwa einen Auftrag lesen und die Buchung vorbereiten, und legt das Ergebnis zur Freigabe vor. In der Bitkom-Umfrage 2026 planen 29 % der Unternehmen den Einsatz von Agenten, und 31 % diskutieren ihn. Beginnen Sie dort, wo die Schritte klar sind und ein Mensch freigibt, bevor etwas gebucht oder versendet wird.

KI-Agenten und Prozessautomatisierung

Wie bekommen wir Wissensmanagement mithilfe von KI hin, auch für das Wissen erfahrener Kolleginnen und Kollegen?

Beginnen Sie mit den Fragen, die im Alltag gestellt werden, bevor jemand ein neues Wiki plant. Binden Sie die wenigen Quellen an, die sie beantworten, etwa SharePoint, Dateiablagen und Tickets, mit ihren Berechtigungen, und zeigen Sie bei jeder Antwort die Quelle. Die Fragen, die der Assistent nicht beantworten kann, werden zur Interviewliste für Ihre Fachleute.

Wissensmanagement mit KI

Wie automatisieren wir Posteingang und Dokumente mit KI?

Sortieren, lesen, dann prüfen: Das System ordnet jedes Dokument einem Typ zu, liest die Felder aus, die dieser Typ braucht, prüft sie gegen Ihre Stammdaten und gibt saubere Dokumente an SAP oder Ihr ERP weiter. Unsichere landen in einer Prüfwarteschlange. Auf dieselbe Weise lassen sich Verträge gegen Ihr eigenes Playbook vorprüfen. Die Entscheidung trifft Ihre Rechtsabteilung.

Dokumentenverarbeitung

Ab welcher Unternehmensgröße lohnt KI im Kundenservice?

Menge und Wiederholung zählen mehr als die Größe. Es lohnt sich, wenn viele Anfragen wiederkehren und dokumentiertes Wissen sie beantwortet: Der Assistent entwirft Antworten aus freigegebenen Quellen, sortiert Tickets und übergibt an einen Menschen, wo es darauf ankommt. Zählen Sie es an einer Stichprobe Ihrer eigenen Tickets nach, bevor Sie bauen.

KI im Kundenservice

Wie setzt man KI im B2B-Vertrieb ein?

Vor allem, um Angebote schneller zu verschicken und per Mail eingehende Aufträge ohne Abtippen zu erfassen. Der Assistent entwirft aus ERP-Preisen, Produktdaten und früheren Angeboten, jeder Preis kommt direkt aus dem ERP, und oberhalb der von Ihnen gesetzten Schwellen gibt ein Mensch frei.

KI im Vertrieb

Ist Predictive Maintenance auch bei älteren Maschinen möglich?

Das hängt von den Sensoren und Daten ab, die die Maschinen liefern, und ist ein Spezialgebiet, das wir nicht bauen. Wir bauen die Wissensseite: Technikerinnen und Techniker bekommen Antworten aus Handbüchern, Serviceberichten und Ersatzteildaten mit der Quellseite, und der Servicebericht wird für sie vorbereitet.

Service und Instandhaltung

Welche HR-Aufgaben kann KI übernehmen, und welche Risiken hat KI im Personalwesen?

Wiederkehrende Fragen aus freigegebenen Richtlinien und Betriebsvereinbarungen beantworten, neue Kolleginnen und Kollegen durch das Onboarding führen und Standarddokumente zur Prüfung durch HR entwerfen. Die Risiken sind Diskriminierung, Überwachung von Beschäftigten und veraltete Antworten. Deshalb bleiben Entscheidungen über Menschen bei Menschen, und wir bauen keine Systeme, die Bewerber oder Beschäftigte filtern, reihen oder bewerten.

Personalabteilung

Wann lohnt es sich für den Maschinen- und Anlagenbau, auf KI zu setzen?

Wenn ein Prozess häufig läuft, von Dokumenten und Expertenwissen abhängt und ohnehin von einem Menschen geprüft wird: Angebote, Auftragserfassung, Servicefragen und Dokumentation. Piloten schaffen es in die Serienanwendung, wenn der Assistent im ERP-Prozess arbeitet, eine verantwortliche Person hat und eine gemessene Erfolgsquote vorweist. Konstruktions- und Preisdaten können dabei auf eigenen Servern bleiben.

KI im Maschinenbau und in der Fertigung

Welche Logistikprozesse lassen sich mit KI automatisieren, und warum kommen viele Projekte nicht über die Pilotphase hinaus?

Vor allem die, bei denen aus Text ein Datensatz wird: Transportaufträge ins TMS, Anfragen in Angebote, Statusfragen in Antworten und Frachtrechnungen in geprüfte Positionen. Piloten bleiben stecken, wenn sie neben dem TMS laufen statt im Ablauf. Disponenten vertrauen Vorschlägen, deren Quelle sie sehen und die sie überstimmen können.

KI in Logistik und Spedition

Lohnt sich KI für ein kleines Stadtwerk?

Ja, wenn Sie mit einem Prozess beginnen, der häufig läuft und ohnehin von einem Menschen geprüft wird, etwa dem Postfach des Kundenservice oder Ablesekarten. Die Menge zählt mehr als die Größe. KI, die als Sicherheitskomponente in der Netz- oder Anlagensteuerung arbeitet, ist nach der KI-Verordnung (AI Act) hochriskant. Assistenten für Kundenservice, Abrechnungsunterlagen und Handbücher fallen nicht unter diese Regel.

KI für Energieversorger und Stadtwerke

Wie nutzen Versicherer und Banken KI in der Schadenbearbeitung und im Kreditgeschäft?

Vor allem zur Vorbereitung, nicht zur Entscheidung: eingehende Post sortieren, Schaden- oder Antragsdaten auslesen, Vollständigkeit und Dubletten prüfen und einen vorausgefüllten Vorgang anlegen. Die Kreditwürdigkeitsprüfung ist nach der KI-Verordnung (AI Act) eine Hochrisiko-Anwendung mit Pflichten für den Betreiber wie menschlicher Aufsicht. Scoring, Deckungs- und Kreditentscheidungen bleiben deshalb bei Ihren Mitarbeitenden und Ihren bestehenden Modellen.

KI für Banken und Versicherungen

Können Kanzleien und Steuerberater KI nutzen, ohne das Berufsgeheimnis zu gefährden?

Ja, wenn Mandantendaten unter Kontrolle der Kanzlei bleiben und die Vertragskette stimmt. Die Kanzlei entscheidet, beraten von ihren eigenen Anwälten. Technisch am sichersten sind eigene Server, dann verlassen keine Mandantendaten die Kanzlei. Recherche, Entwürfe und Vertragsprüfung laufen auf Ihren eigenen Dokumenten, und jedes Zitat wird geprüft.

KI für Kanzleien und Wirtschaftsprüfung

Lohnt sich KI in unserer Branche überhaupt?

In den meisten Branchen entsteht der erste Nutzen bei derselben Art von Arbeit: Dokumente, Kundenanfragen, Angebote und internes Wissen. Unsere Branchenseiten behandeln Maschinenbau und Fertigung, Energieversorger und Stadtwerke, Logistik, Banken und Versicherungen sowie Kanzleien und Wirtschaftsprüfung. In anderen Branchen beginnen Sie mit den Anwendungsfällen Ihrer Unternehmensbereiche.

Branchen

Unsere Daten sind verstreut und nicht immer sauber. Können wir trotzdem anfangen?

Ja. Binden Sie zuerst die wenigen Quellen an, die der erste Anwendungsfall braucht, mit ihren Berechtigungen, einer verantwortlichen Person und funktionierendem Zugriff. Einen Data Lake oder ein unternehmensweites Datenprojekt brauchen Sie vorher nicht. Prüfen Sie die Quellen des ersten Prozesses an repräsentativen Fällen.

Datenbereitschaft für KI-Projekte

Wer prüft kritische Ergebnisse, und sollen Agenten selbstständig handeln?

Ein Mensch gibt jede Aktion frei, die Daten ändert, Geld ausgibt oder Kunden erreicht. Lesen und vorbereiten dürfen Agenten ohne Freigabe. Lockern Sie das je Aktion erst, wenn Tests und protokollierte Läufe zeigen, dass der Agent richtig liegt.

Menschliche Freigaben in Agenten-Workflows

Woran erkennen wir vor der Abnahme, dass das KI-System funktioniert und seine Ergebnisse nachvollziehbar sind?

Vereinbaren Sie Abnahmekriterien vorab, testen Sie 100 bis 200 Fälle aus Ihrer eigenen Arbeit und nehmen Sie das System auf Basis gemessener Erfolgsquoten mit Konfidenzintervall ab. Nachvollziehbar wird es durch die Quellen, die bei jedem Ergebnis angezeigt werden, und ein Protokoll jedes Laufs.

Qualitätssicherung für KI-Systeme

Warum bleiben viele KI-Piloten im Test stecken?

Meist, weil niemand vereinbart hat, was gut genug heißt, wer das System danach betreibt und wie es an die Systeme angebunden wird, in denen die Arbeit passiert. Vor dem Go-live brauchen Sie Regressionstests, Versionierung und Rollback, Monitoring, eine verantwortliche Person und eine Übergabe, danach einen stufenweisen Rollout.

Vom KI-Piloten in die Produktion

Warum nutzen Beschäftigte das eingeführte KI-Tool nicht, und wie schulen wir sie?

Meist, weil es nicht zu ihrer Arbeit passt, sie um ihren Arbeitsplatz fürchten oder ihre privaten Werkzeuge besser sind. Beziehen Sie die Menschen, die die Arbeit machen, von Anfang an ein, sagen Sie, wofür frei werdende Stunden genutzt werden, und schulen Sie an ihren eigenen Aufgaben mit den Werkzeugen, die sie nutzen werden. Nicht alle müssen KI-Experten werden. Einige wenige brauchen tieferes Wissen, um die Systeme zu betreiben.

Change Management bei KI

Wann sollten wir ein KI-Projekt stoppen, statt weiterzumachen?

Entscheiden Sie nach gemessener Qualität und Kosten pro Vorgang, verglichen mit den Schwellen, die Sie zu Beginn vereinbart haben. Verfehlt ein Projekt sie, verkleinern Sie den Umfang, wechseln Sie zu einem einfacheren Aufbau oder stoppen Sie. Ein Stopp auf Basis von Belegen ist günstiger als ein System, das niemand nutzt.

Wann ein KI-Projekt stoppen sollte

Für IT-Leitung und IT-Sicherheit

Freigegebene KI für die Beschäftigten, eigene Server oder Cloud, Sicherheit und Betrieb.

Beschäftigte nutzen ChatGPT auf eigene Faust. Verbieten oder KI offiziell einführen?

Führen Sie eine freigegebene Alternative ein, denn ein Verbot allein verlagert die Nutzung aufs private Handy. Laut IW Köln (2026) nutzen 29,1 % der Beschäftigten, die KI bei der Arbeit einsetzen, Werkzeuge, die ihr Arbeitgeber nicht bereitgestellt hat. Ein interner Assistent mit Single Sign-on, guten Modellen und Unternehmenswissen gibt einen Grund zu wechseln, und das Gateway zeigt die Nutzung je Team, nie je Person.

Schatten-KI: verbieten oder ersetzen

Sollte unsere KI auf eigenen Servern oder in der Cloud laufen?

Eigene Server passen zu Daten, die Ihr Netz nicht verlassen dürfen, und zu hoher, gleichmäßiger Nutzung. Ein Cloud-Konto unter Ihrer Kontrolle passt zu einem schnellen Start und schwankender Last. Viele Unternehmen nutzen beides hinter einem Gateway.

On-Premise-KI

Reicht Microsoft 365 Copilot, oder brauchen wir einen eigenen KI-Assistenten?

Copilot passt, wenn Arbeit und Daten in Microsoft 365 liegen und sich Lizenzen pro Nutzer rechnen. Ein eigener Assistent passt, wenn wichtige Daten in SAP, einem DMS oder anderen Systemen liegen, wenn er auf eigenen Servern laufen muss oder wenn viele gelegentliche Nutzer eine Abrechnung nach Verbrauch günstiger machen. In beiden Fällen kommen die Berechtigungen zuerst.

Copilot oder eigene KI

Was ist ein LLM-Gateway und brauchen wir eines?

Ein Gateway gibt jeder Anwendung eine Schnittstelle vor allen Modellen, mit Schlüssel, Budget und Protokoll je Team. Sie brauchen es, sobald mehrere Teams oder Werkzeuge Modelle nutzen.

Was ein LLM-Gateway leistet

Brauchen wir eine KI-Richtlinie, und wie sorgen wir dafür, dass sie greift?

Ja. Sie legt fest, welche Werkzeuge freigegeben sind, welche Daten wohin dürfen, wer neue Werkzeuge freigibt und wie die Nutzung protokolliert wird. Eine Richtlinie auf Papier setzt voraus, dass sich alle daran erinnern. Regeln, die die Plattform durchsetzt, etwa freigegebene Modelle, gesperrte Datenklassen und Budgets je Team, gelten auch dann, wenn jemand sie vergisst.

Schatten-KI: verbieten oder ersetzen

Bleiben unsere Daten mit Azure OpenAI oder Amazon Bedrock in der EU?

Das hängt von der Bereitstellungsart ab: Globale Bereitstellungen können Anfragen außerhalb der EU verarbeiten, während Bereitstellungen in der EU-Datenzone und EU-Inferenzprofile die Verarbeitung in der EU halten.

Azure OpenAI und Bedrock: Daten in der EU

Wie betreiben wir ein LLM On-Premise, sodass keine Daten das Unternehmen verlassen?

Ein Open-Weight-Modell mit einer Engine wie vLLM auf eigenen GPU-Servern betreiben, ein Gateway für Schlüssel und Protokolle davorsetzen, die Dokumente mit ihren Berechtigungen anbinden und die Antworten vor dem Go-live prüfen.

LLM On-Premise im Unternehmen

Wie viele GPUs brauchen wir für unsere Nutzer?

Das hängt von gleichzeitigen Anfragen, Länge von Eingaben und Antworten, Modellgröße und den gewünschten Antwortzeiten ab. Messen Sie auf gemieteten oder vorhandenen GPUs mit Ihren eigenen Prompts, bevor Sie kaufen.

vLLM auf Kubernetes

Wir sollen Microsoft 365 Copilot einschalten, aber die Berechtigungen sind ungeordnet. Was kommt zuerst?

Mit den Berechtigungen. Ein Assistent zeigt jedem alles, was diese Person schon öffnen kann, also werden zu weit freigegebene Seiten und Ordner in Antworten sichtbar. Finden und schließen Sie offene Freigaben in den Quellen, die er liest, und prüfen Sie dann mit echten Konten, dass gesperrte Dokumente verborgen bleiben.

Datenintegration für KI

Wie testen und überwachen wir die Sicherheit eines KI-Systems, bevor es live geht?

Behandeln Sie es wie jedes System mit Zugriff auf Ihre Daten, mit einem neuen Risiko: Dokumente und E-Mails, die das Modell liest, können Anweisungen enthalten, sogenannte Prompt Injection. Geben Sie jedem Agenten möglichst enge Rechte, verlangen Sie eine Freigabe für Aktionen, die Daten ändern, halten Sie Endpunkte aus öffentlichen Netzen heraus und protokollieren Sie jeden Aufruf. Ergänzen Sie einen Prozess für KI-Sicherheitsvorfälle: In einer Studie von BSI und TÜV-Verband aus 2026 hatten nur 11 % der Unternehmen, die KI nutzen oder planen, einen solchen Prozess.

Grenzen gegen Prompt Injection

In unserer Infrastruktur sind MCP-Server aufgetaucht. Wie sichern wir sie ab?

Behandeln Sie jeden wie eine API mit Zugriff auf Ihre Systeme: mit verantwortlicher Person, Inventar, Authentifizierung über die Nutzerin oder den Nutzer, möglichst engen Rechten je Werkzeug, Protokollen und Freigabe vor jedem Werkzeug, das Daten ändert. Entfernen Sie die, für die niemand verantwortlich ist.

Systemzugriff für Agenten (MCP)

Ist LiteLLM nach den Vorfällen von 2026 sicher zu betreiben?

Ja, mit Sorgfalt: Images per Digest pinnen und prüfen, stufenweise mit Tests aktualisieren, Admin- und MCP-Endpunkte aus öffentlichen Netzen heraushalten und Anbieterschlüssel so ablegen, dass sie sich schnell austauschen lassen. LiteLLM hatte 2026 drei Vorfälle, alle behoben.

LiteLLM im Produktivbetrieb

Wie skalieren wir KI von einem Anwendungsfall auf das ganze Unternehmen?

Bauen Sie das zweite System auf den Teilen des ersten auf: eine Plattform mit Gateway, freigegebenen Modellen, Identität und Berechtigungen, gemeinsamer Protokollierung und demselben Testprozess. Jeder neue Anwendungsfall bringt dann seine Daten und seinen Ablauf mit statt einer neuen technischen Grundlage, und die Kosten bleiben je Team sichtbar.

KI für Unternehmen

Wer wartet die KI-Lösung, wenn das Projekt vorbei ist?

Klären Sie das, bevor Sie bauen. Jemand muss Modell- und Versionsupdates, die Tests vor jeder Änderung, Monitoring, Kosten und Fragen der Nutzer verantworten. Das kann Ihr Team mit Runbooks und Übergabe sein oder wir im Rahmen eines Betreuungsvertrags.

Verantwortung für KI-Systeme

Für Datenschutzbeauftragte und Betriebsräte

DSGVO, Datenabfluss, die KI-Verordnung (AI Act) und was der Betriebsrat sieht.

Ist KI DSGVO-konform möglich, und müssen unsere Daten in die Cloud?

Technisch ja, und die Daten müssen nicht in die Cloud. Legen Sie je Datenklasse fest, welche Modelle welche Daten sehen dürfen: allgemeine Texte in einer EU-Region eines Cloud-Dienstes, vertrauliche Daten im eigenen Cloud-Konto oder auf eigenen Servern. Ihr Datenschutzbeauftragter erhält die technische Beschreibung, die eine DSFA braucht. Das Unternehmen entscheidet gemeinsam mit ihm und seinen Anwälten, und das hier ist keine Rechtsberatung.

Datenschutzbeauftragte

Können Beschäftigte ChatGPT im Unternehmen datenschutzkonform nutzen?

Nicht mit privaten Konten, die dem Unternehmen weder einen Auftragsverarbeitungsvertrag noch Kontrolle geben. Business-Tarife, das eigene Cloud-Konto und eigene Server halten jeweils mehr im Unternehmen. Fragen Sie bei jeder Stufe, wo Daten verarbeitet werden, wie lange sie gespeichert werden, wer beim Anbieter sie sehen kann und ob sie zum Training genutzt werden.

ChatGPT im Unternehmen und Datenschutz

Wie betrifft der EU AI Act unser Unternehmen, und wer überwacht ihn in Deutschland?

Ein Unternehmen, das KI nutzt, ist Betreiber im Sinne der KI-Verordnung (AI Act): Es muss Maßnahmen für die KI-Kompetenz der Beschäftigten treffen und Transparenzhinweise geben, und bei Hochrisiko-Anwendungen wie dem Filtern von Lebensläufen oder der Kreditwürdigkeitsprüfung kommen weitere Pflichten hinzu, darunter menschliche Aufsicht und das Aufbewahren von Protokollen. In Deutschland überwacht die Bundesnetzagentur die KI-Verordnung und betreibt einen KI-Service-Desk für Fragen zu Risikoklassen. Für Finanzunternehmen bleibt die BaFin zuständig. Der Digital Omnibus hat mehrere Fristen verschoben. Unsere Checkliste nennt die aktuellen, und Ihre Anwälte bestätigen, was für Sie gilt.

KI-Verordnung: Betreiberpflichten

Können wir KI nutzen, ohne Daten in eine US-Cloud zu schicken?

Ja: Open-Weight-Modelle auf eigenen Servern oder bei einem EU-Anbieter betreiben. Eine EU-Region eines US-Anbieters entscheidet, wo Daten verarbeitet werden, nicht, welches Recht für den Anbieter gilt.

On-Premise-KI

Wo laufen die Modelle, und werden unsere Prompts zum Training genutzt?

Dort, wo Sie es festlegen: Auf eigenen Servern geht nichts an einen Modellanbieter, und im eigenen Cloud-Konto erklären Microsoft und AWS, dass Prompts in Azure OpenAI und Amazon Bedrock nicht zum Training genutzt werden. Wo ein Anbieter personenbezogene Daten für Sie verarbeitet, brauchen Sie einen Auftragsverarbeitungsvertrag, und Sie sollten die aktuellen Bedingungen jedes Anbieters prüfen.

Azure OpenAI und Bedrock

Muss der Betriebsrat einem KI-System zustimmen?

In Deutschland oft ja: Die Mitbestimmung greift, wenn ein System objektiv geeignet ist, Leistung oder Verhalten zu überwachen, und Protokolle machen es meist geeignet. Vereinbaren Sie, was protokolliert wird und wer es sieht, und werten Sie nach Team statt nach Person aus. Das ist keine Rechtsberatung.

Betriebsrat und KI-Protokollierung

Was gehört in eine Betriebsvereinbarung zu KI, und wann müssen wir den Betriebsrat einbeziehen?

Früh, solange Sie noch planen, denn eine Information kurz vor dem Rollout kommt meist zu spät. Eine Betriebsvereinbarung beschreibt Zweck, protokollierte Felder, Identifizierung, Zugriffsrollen, Aggregationsebene, Aufbewahrung, Freigabepunkte und den Umgang mit Änderungen. Wenn ein Projekt festgefahren ist, hilft es, dem Betriebsrat die konkrete Konfiguration zu zeigen.

Betriebsräte

Ist KI im Recruiting erlaubt, und wie weit dürfen Personalentscheidungen automatisiert werden?

Erlaubt, aber reguliert: Systeme, die Bewerbungen filtern oder Kandidaten bewerten, sind nach der KI-Verordnung (AI Act) hochriskant, mit Betreiberpflichten wie menschlicher Aufsicht. Absagen dürfen nach Art. 22 DSGVO nicht vollautomatisch erfolgen, und der Betriebsrat hat Mitbestimmungsrechte. Wir bauen solche Systeme nicht: Ein Mensch entscheidet, und Ihre Anwälte beraten zu jedem Produkt, das Sie in Betracht ziehen.

Personalabteilung

Ist ein KI-Beauftragter gesetzlich vorgeschrieben, und wer ist intern für KI verantwortlich?

Die KI-Verordnung (AI Act) schreibt keinen KI-Beauftragten vor, der mit dem Datenschutzbeauftragten vergleichbar wäre. Ihr Artikel 4 verlangt Maßnahmen für KI-Kompetenz. Viele Unternehmen benennen trotzdem jemanden, manchmal den Datenschutzbeauftragten, für Inventar, freigegebene Werkzeuge und Schulungsplan, und jedes KI-System braucht zusätzlich eine eigene verantwortliche Person. Ihr Unternehmen entscheidet, beraten von seinen Anwälten.

Leitung Digitalisierung und KI-Beauftragte

Brauchen wir eine KI-Inventur, und wie finden wir die KI, die schon genutzt wird?

In der Praxis ja, denn Maßnahmen zur KI-Kompetenz und Hinweise müssen die KI abdecken, die in Ihrem Unternehmen genutzt wird, ob freigegeben oder nicht. Lizenzen und API-Konten erscheinen in Abrechnungs- und Nutzungsexporten, die unsere kostenlose Nutzungsanalyse auswertet, aggregiert nach Team. Private Werkzeuge auf privaten Geräten tauchen dort nicht auf. Fragen Sie deshalb die Teams und bieten Sie eine freigegebene Alternative an.

Kostenlose KI-Nutzungsanalyse

Muss ich kennzeichnen, dass mein Chatbot eine KI ist?

Bei einem Chatbot, der direkt mit Kunden spricht, in den meisten Fällen ja: Artikel 50 der KI-Verordnung (AI Act) verlangt, dass Menschen erfahren, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Bauen Sie den Hinweis in jeden Kanal ein, in dem der Assistent selbst antwortet. Ob Entwürfe, die eine Kollegin oder ein Kollege prüft und versendet, einen Hinweis brauchen, klären Ihre Anwälte.

KI-Verordnung: Betreiberpflichten

Gilt die KI-Schulungspflicht auch für kleine Unternehmen, und brauchen unsere Mitarbeitenden ein Zertifikat?

Die KI-Verordnung (AI Act) knüpft Pflichten an Rollen und Verwendungen, nicht an die Unternehmensgröße: Artikel 4 verlangt von jedem Betreiber Maßnahmen, damit die Beschäftigten ausreichende KI-Kompetenz haben. Ein Zertifikat, einen Kurs oder eine Stundenzahl nennt er nicht. Nachweisen können Sie, wer was über welches Werkzeug gelernt hat, bezogen auf die Rolle und aktualisiert, wenn sich die Werkzeuge ändern.

KI-Verordnung: Betreiberpflichten

Kann der Assistent Beschäftigten Dokumente zeigen, die sie nicht sehen dürfen?

Nicht, wenn die Berechtigungen aus den Quellsystemen mit jedem Dokument gespeichert und bei jeder Suche angewendet werden und das vor dem Go-live getestet wird.

Berechtigungen in RAG

Für CTOs und Engineering-Leitung

KI in Ihren Produkten, Coding-Agenten, ihre Kosten und die Qualität ihrer Ergebnisse.

Wie bauen wir KI in unsere eigenen Produkte und Dienste ein?

Behandeln Sie es als Produktentwicklung: Aufgabe und Erfolgskriterien festlegen, Evals (wiederholbare Tests an festen Fällen) aus echten Nutzerfällen bauen, das Modell je Aufgabe hinter einem Gateway wählen und Latenz, Kosten pro Anfrage und Monitoring vor dem Launch planen. Die Funktion wird dann wie der übrige Code ausgeliefert und geändert, mit Tests bei jeder Änderung.

KI-Engineering und -Architektur

Wie viel schneller entwickelt man mit KI, und wie belegen wir das?

Messen Sie Ergebnisse an vergleichbarer Arbeit statt Akzeptanzraten oder Selbsteinschätzungen: Durchlaufzeit, Review-Aufwand, Nacharbeit und Fehler bei Änderungen mit und ohne Werkzeug, dazu die Kosten pro gemergter Änderung. Legen Sie die Kennzahlen vor dem Pilot fest, damit das Ergebnis über den Rollout entscheiden kann.

Metriken für einen GitHub-Copilot-Pilot

Wie bringen wir Coding-Agenten aus der Pilotgruppe in die Breite?

Mit einem gemeinsamen Setup, Anweisungen und Prüfungen je Repository, Schulung an echten Tickets und Messungen von Review-Aufwand und Nacharbeit vorher und nachher.

Einführung von Coding-Agenten

Können wir Claude Code und andere Coding-Agenten über unser eigenes Gateway leiten, mit Limits je Team?

Claude Code und Werkzeuge, die einen eigenen Endpunkt akzeptieren, können das. Werkzeuge, die über die Server ihres Anbieters laufen, erreichen kein internes Gateway, deshalb muss jedes Werkzeug geprüft werden. Hinter dem Gateway legen Sie fest, welche Modelle jedes Team nutzen darf, und setzen ein Budget je Team.

Coding-Agenten über ein LLM-Gateway

Wohin geht unser Quellcode, wenn ein Coding-Agent ihn an ein Modell schickt?

An den Endpunkt, für den das Werkzeug eingerichtet ist, und manche Werkzeuge laufen zuerst über die Server ihres Anbieters. Prüfen Sie für jedes Werkzeug die Bedingungen zu Daten und Aufbewahrung und leiten Sie es, wo das Werkzeug es erlaubt, über Ihr eigenes Gateway zu einem Modell in Ihrem Cloud-Konto.

Coding-Agenten über ein LLM-Gateway

Unsere Rechnung für Coding-Agenten steigt. Wohin geht das Geld?

Zerlegen Sie die Kosten nach Team, Werkzeug, Modell und Aufgabe, dann nach gemergter Änderung. Die üblichen Treiber sind teure Modelle für einfache Aufgaben, große Kontexte und Wiederholungen.

LLM-Kostenoptimierung

Woran erkennen wir, ob ein neues Setup für Coding-Agenten besser ist als das alte?

Spielen Sie bereits gemergte Änderungen mit altem und neuem Setup erneut ab und vergleichen Sie Kosten, Review-Aufwand und Nacharbeit an derselben Arbeit.

Evaluierungen auf Ihren Repositories

Wie prüfen wir einen Modell- oder Prompt-Wechsel vor dem Deployment?

Halten Sie einen festen Satz echter Fälle mit vereinbarten Kriterien bereit, lassen Sie ihn gegen die aktuelle und die neue Version laufen und wechseln Sie nur, wenn die neue bei den wichtigen Fällen nicht schlechter ist. Derselbe Satz läuft bei jeder Änderung, wie ein Regressionstest.

Regressionstests für LLM-Anwendungen

Wie messen wir, ob unser RAG-Assistent gute Antworten gibt?

Bewerten Sie Suche und Antworten getrennt, an echten Fragen Ihrer Nutzer: Hat die Suche die richtige Textstelle gefunden, bleibt die Antwort bei dieser Quelle und nennt sie, und wurde zurückgehalten, was die Person nicht sehen darf?

RAG-Evaluierung

Mit einem Engineer sprechen

Bringen Sie eine Aufgabe mit, die Sie verbessern möchten. Das Gespräch dauert 30 Minuten und braucht keinen Zugriff auf Ihre Systeme oder Ihre Daten.

Die Buchung läuft über Google Kalender.

Lieber zuerst schreiben? Hinterlassen Sie Ihre E-Mail-Adresse und ein paar Zeilen, dann antworten wir mit Terminvorschlägen.

Die Schaltfläche bereitet in Ihrem eigenen E-Mail-Programm eine E-Mail vor, die Sie selbst senden. Datenschutzerklärung (Entwurf)