EU AI Act: Welche Pflichten haben Unternehmen, die KI einsetzen?

Betrifft der EU AI Act auch KMU, die KI nur nutzen?

Ja. Die KI-Verordnung knüpft Pflichten an Rollen und Einsatzzwecke, nicht an die Unternehmensgröße. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet. Ein kleines Unternehmen, das seinem Vertrieb Copilot gibt oder Lieferantenrechnungen von einem Agenten vorsortieren lässt, ist genauso Betreiber wie ein großer Konzern. Ob für Ihr Unternehmen eine Erleichterung gilt, klärt Ihre Rechtsberatung. Wir gehen hier davon aus, dass keine gilt.

Viele Unternehmen sind noch unsicher, wo sie stehen. In der Bitkom-Umfrage 2026 (veröffentlicht am 14. September 2026) sehen sich 37 % der Unternehmen als Nutzer von KI vom AI Act betroffen, 34 % prüfen das noch. Von den betroffenen oder noch prüfenden Unternehmen erwarten 89 % einen hohen Umsetzungsaufwand. In der KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband, über die die ZfK am 15. Oktober 2026 berichtete, fühlten sich 71 % schlecht über die Anforderungen des AI Act informiert.

Anders ist es bei einem eigenen Assistenten. Wenn Sie einen Assistenten oder Agenten selbst bauen oder bauen lassen und unter dem Namen Ihres Unternehmens in Betrieb nehmen, lassen Sie prüfen, ob Sie dafür auch als Anbieter gelten, denn Anbieter tragen mehr Pflichten als Betreiber. Bei den Standardwerkzeugen, mit denen die meisten Unternehmen anfangen, zählt die Betreiberrolle.

EU AI Act 2026: Was gilt jetzt, und was kommt noch?

Der Digital Omnibus zur KI hat die Hochrisiko-Fristen verschoben und den Rest stehen lassen. Nach der Kanzlei Lewis Silkin (27. Juli 2026) wurde der Omnibus am 24. Juli 2026 im Amtsblatt veröffentlicht und trat am 27. Juli 2026 in Kraft. Die Hochrisiko-Pflichten nach Anhang III, der eigenständige Systeme in Bereichen wie Beschäftigung erfasst, verschieben sich vom 2. August 2026 auf den 2. Dezember 2027. Anhang I, der KI in regulierten Produkten erfasst, verschiebt sich auf den 2. August 2028. KI in Produkten nach der Maschinenverordnung fällt aus den direkten Hochrisiko-Regeln des AI Act heraus. Die Transparenzpflichten nach Artikel 50 gelten ab dem 2. August 2026, und die KI-Kompetenz nach Artikel 4 bleibt als Pflicht, Maßnahmen zu ergreifen.

Prüfen Sie das Datum von allem, was Sie zum AI Act lesen. Manche deutsche Seiten, die im November 2026 noch online sind, nennen August 2026 als Start der vollen Hochrisiko-Pflichten, ein Datum, das der Omnibus verschoben hat. In Deutschland beaufsichtigt die Bundesnetzagentur den AI Act. Ihre Pressemitteilung vom 29. Juli 2026 meldete das Inkrafttreten des deutschen Durchführungsgesetzes (KI-MIG), und sie betreibt einen KI-Service-Desk für Unternehmen mit einem Selbstcheck der Risikoklasse eines Systems. Banken und Versicherer sollten zudem mit Fragen der BaFin rechnen: Sie hat am 18. Dezember 2025 eine Orientierungshilfe zu IKT-Risiken beim Einsatz von KI-Systemen in Finanzunternehmen veröffentlicht.

KI-Kompetenz nach Artikel 4: Schulungspflicht oder Pflicht zu Maßnahmen?

Artikel 4 verlangt von Betreibern Maßnahmen, damit die Menschen, die in ihrem Auftrag KI nutzen oder betreiben, über ausreichende KI-Kompetenz verfügen. Die Regel gilt nach Angaben der IHK Karlsruhe seit dem 2. Februar 2025 und bleibt nach dem Digital Omnibus eine Pflicht, Maßnahmen zu ergreifen (Lewis Silkin, 27. Juli 2026). Sie nennt keinen Kurs, keine Stundenzahl und kein Zertifikat. Ein Anwalt zieht die Grenze deutlich: „Symbolische Maßnahmen genügen nicht“ (Pöppel Rechtsanwälte, 5. Mai 2026).

Belastbar sind in der Praxis Maßnahmen, die zur Rolle passen und zu den Werkzeugen, mit denen die Leute im Alltag arbeiten. Wer Kundenantworten mit einem Assistenten entwirft, muss wissen, woher dessen Antworten stammen, wie man eine Quelle prüft und welche Daten nicht hineingehören. Wer Vorschläge eines Agenten freigibt, muss wissen, was der Agent nicht sieht und wann man ihn stoppt. Führen Sie pro Person oder Team einen einfachen Nachweis: welches Werkzeug, welche Inhalte, wann und durch wen vermittelt. Die kostenlose KI-Nutzungsanalyse, die wir anbieten, beginnt mit den Exporten, die Sie uns schicken möchten, und zeigt, welche Werkzeuge im Einsatz sind. Genau diese Liste müssen Ihre Maßnahmen abdecken.

Hier hängen viele Unternehmen hinterher. In der Bitkom-Umfrage 2026 bewerteten zwei Drittel der Unternehmen die KI-Kompetenz ihrer Beschäftigten als gering, und 25 % boten gar keine Schulung an. Wie Sie Beschäftigte an ihrer eigenen Arbeit schulen, beschreibt unser Leitfaden zum Change Management bei KI.

Muss ich kennzeichnen, dass mein Chatbot eine KI ist?

Ab dem 2. August 2026 verlangt Artikel 50, dass Menschen erfahren, wenn sie mit einem KI-System interagieren, und dass bestimmte KI-generierte oder manipulierte Inhalte als solche gekennzeichnet werden. Ein Teil dieser Pflichten liegt beim Anbieter des Systems, ein Teil beim Betreiber. Bei einem Chatbot, den Ihr Unternehmen selbst konfiguriert und für Kunden betreibt, tragen Sie in der Praxis wahrscheinlich beides. Welche Ihrer Ausgaben eine Kennzeichnung brauchen, etwa Antworten, die ein Agent ohne menschliche Prüfung verschickt, klären Sie mit Ihrer Rechtsberatung.

Technisch ist ein Transparenzhinweis wenig Arbeit, wenn er eingeplant ist. Das Chatfenster zeigt vor der ersten Nachricht einen festen Satz, statt den Hinweis in den Nutzungsbedingungen zu verstecken. Nachrichten, die ein Agent verschickt, tragen eine Fußzeile aus einer Vorlage, sodass niemand sie durch eine Prompt-Änderung entfernen kann. Jeder angezeigte Hinweis wird mit der Version seines Textes protokolliert, damit Sie belegen können, was Nutzer an einem bestimmten Tag gesehen haben. Auch ein interner Assistent für Beschäftigte sollte den Hinweis zeigen: Er kostet nichts und macht den Nachweis vollständig.

Ist unser KI-System ein Hochrisiko-System? Bewerbungen, Personalentscheidungen und Kreditwürdigkeit

Die meisten internen Assistenten sind keine Hochrisiko-Systeme. Es kommt darauf an, in welche Entscheidung ein System einfließt. Anhang III nennt Bereiche, in denen KI als hochriskant gilt, und zwei davon betreffen gewöhnliche Unternehmen. Beschäftigung: Bewerberauswahl, Entscheidungen über Beförderung und Kündigung sowie die Bewertung der Leistung von Beschäftigten (Anhang III Nummer 4). Kredit: die Prüfung der Kreditwürdigkeit oder Bonität natürlicher Personen. Für Versicherer gilt: Auch Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung stehen auf der Liste. Gibson Dunn (27. Mai 2026) nennt „credit scoring“ und „recruitment“ unter den Beispielen aus Anhang III. Ein Werkzeug, das Lebensläufe sichtet und reiht, ist ein Hochrisiko-System. Ein HR-Assistent, der nur Fragen zu Urlaubsregeln aus Ihren Betriebsvereinbarungen beantwortet, entspricht nach der Analyse von Grant Thornton aus dem Jahr 2026 nicht den Hochrisiko-Beispielen. Den Betriebsrat braucht er trotzdem, wenn sich die Nutzung Personen zuordnen lässt.

Für Betreiber bedeutet Hochrisiko ab dem 2. Dezember 2027 eine Reihe von Pflichten. In Grundzügen: Sie verwenden das System gemäß der Betriebsanleitung des Anbieters. Sie übertragen die menschliche Aufsicht Personen, die die nötige Kompetenz, Schulung und Befugnis haben, es zu übersteuern. Die Eingabedaten, die Sie kontrollieren, müssen für den Zweck relevant sein. Sie überwachen das System im Betrieb, melden schwerwiegende Probleme und bewahren die vom System erzeugten Protokolle auf, soweit sie unter Ihrer Kontrolle stehen. Und Sie informieren die Beschäftigten und ihre Vertretung, bevor ein solches System am Arbeitsplatz eingesetzt wird. Zwei Regeln gelten schon heute: Grant Thornton weist darauf hin, dass Emotionserkennung am Arbeitsplatz verboten ist, und nach Artikel 22 DSGVO ist eine vollautomatische Absage an Bewerbende ohne echte menschliche Prüfung nicht zulässig.

Wir bauen keine Systeme, die ohne Menschen über Bewerbende, Beschäftigte oder Kredite entscheiden. Wo ein Assistent solche Arbeit unterstützt, bereitet er Informationen auf, und ein Mensch entscheidet. Prüfer, Begründung und Ergebnis werden festgehalten. Wenn Sie bei der Risikoklasse eines Systems unsicher sind, bietet der KI-Service-Desk der Bundesnetzagentur einen Selbstcheck an, und Ihre Rechtsberatung entscheidet.

Ist ein KI-Beauftragter gesetzlich vorgeschrieben?

Die KI-Verordnung nennt eine solche Rolle nicht. Viele Unternehmen benennen trotzdem jemanden, der koordiniert. Anders als den Datenschutzbeauftragten nach DSGVO gibt es keinen vorgeschriebenen KI-Beauftragten: Artikel 4 verlangt ausreichende KI-Kompetenz der Beschäftigten, nennt aber keine Rolle (skill-sprinters, 25. Mai 2026). In der Praxis wird trotzdem koordiniert. In der Studie von BSI und TÜV-Verband, über die die ZfK am 15. Oktober 2026 berichtete, hatten 63 % der KI-nutzenden Unternehmen eine benannte KI-Verantwortung.

Wer die Rolle übernimmt, oft der Datenschutzbeauftragte oder die IT-Leitung, braucht vier Dinge, und alle sollten aus den Systemen kommen: ein Inventar, das sich aus dem Gateway oder den Lizenzexporten selbst aktualisiert, die Risikoklasse je Einsatz, den Kompetenznachweis sowie Hinweise und Protokolle je System. Mit einem LLM-Gateway, einem kontrollierten Zugang zu allen Modellen mit Schlüsseln, Budgets und Logs, kommt ein Großteil dieses Inventars aus einem Bericht, und niemand muss eine Umfrage ausfüllen.

Was müssen wir für jedes eingesetzte KI-System einrichten?

Sieben Punkte, vom Inventar bis zur Lieferantendokumentation. Gehen Sie die Liste einmal pro System durch: für den Chat-Assistenten, jeden Agenten und jedes Werkzeug, das ein Team selbst gekauft hat. Jede Zeile nennt, was das System oder der Lieferant Ihnen zeigen sollte, sodass die Antwort eine Einstellung oder ein Dokument ist, auf das Sie zeigen können.

Der Datenschutz läuft parallel: Wo personenbezogene Daten im Spiel sind, entscheidet Ihr Datenschutzbeauftragter, ob eine Datenschutz-Folgenabschätzung nötig ist, und der Betriebsrat bestimmt mit, sobald Logs eine Leistungs- oder Verhaltenskontrolle ermöglichen. Unsere Leitfäden zur Protokollierung mit dem Betriebsrat und zur Aufbewahrung von KI-Traces beschreiben die Einstellungen im Detail. Wenn Sie Unterstützung bei der technischen Seite möchten: Mit einem Engineer sprechen. Das Gespräch ist kostenlos, dauert 30 Minuten und braucht keinen Zugriff auf Ihre Systeme oder Daten.

Qualitätssicherung für KI-SystemeDatenschutzbeauftragteBetriebsräte