EU-KI-Verordnung: Pflichten, Risiken und Fristen für Unternehmen

Die EU-KI-Verordnung, häufig auch AI Act genannt, ist der zentrale europäische Rechtsrahmen für Entwicklung, Vertrieb und Einsatz von künstlicher Intelligenz. Sie betrifft nicht nur Anbieter von KI-Software, sondern auch Unternehmen, Behörden und Organisationen, die KI-Systeme im Arbeitsalltag nutzen. Maßgeblich ist dabei nicht, ob ein Unternehmen sich selbst als KI-Anbieter versteht, sondern welche Funktion es im konkreten Lebenszyklus eines KI-Systems einnimmt.

Für die Praxis ist wichtig: Die Verordnung ordnet KI-Systeme nach Risiken ein und knüpft daran unterschiedliche Pflichten. Ein Chatbot auf einer Website löst andere Anforderungen aus als ein System zur Bewerberauswahl, Kreditwürdigkeitsprüfung oder medizinischen Diagnostik. Hinzu kommen Übergangsfristen, Dokumentationspflichten, Schnittstellen zur DSGVO, zum Produktsicherheitsrecht und zum Arbeitsrecht.

Der Beitrag gibt eine rechtliche Einordnung, zeigt typische Fallkonstellationen und erläutert, welche Schritte Unternehmen jetzt sinnvoll vorbereiten können. Eine abschließende Bewertung hängt jedoch stets vom konkreten System, seinem Verwendungszweck, den eingesetzten Daten und der Rolle des jeweiligen Unternehmens ab.

Inhaltsverzeichnis

1. Was regelt die EU-KI-Verordnung?
2. Wen betrifft die EU-KI-Verordnung in der Praxis?
3. Risikoklassen und Abgrenzung zu ähnlichen Begriffen
4. Welche Pflichten entstehen für Anbieter, Betreiber und Nutzer?
5. Fristen, Übergangszeiten und Verjährung: Was gilt ab wann?
6. Praxisrelevante Fallkonstellationen aus Unternehmen und Behörden
7. Risiken, Haftung und typische Fehler bei der Umsetzung
8. Beweisfragen, Dokumentation und interne Verantwortlichkeit
9. Handlungsschritte: Checkliste für die Umsetzung der EU-KI-Verordnung
10. EU-KI-Verordnung, DSGVO und andere Rechtsgebiete zusammen prüfen
11. Besondere Anforderungen bei Hochrisiko-KI
12. Interne Governance: Wer sollte im Unternehmen zuständig sein?
13. … und 2 weitere Abschnitte

Was regelt die EU-KI-Verordnung?

Die EU-KI-Verordnung ist eine unmittelbar geltende EU-Verordnung. Sie muss daher nicht erst durch ein deutsches Gesetz in nationales Recht umgesetzt werden, auch wenn ergänzende nationale Zuständigkeiten, Aufsichtsstrukturen und Verfahrensregeln hinzukommen können. Ihr Kern ist ein risikobasierter Regulierungsansatz: Je höher das Risiko eines KI-Systems für Grundrechte, Sicherheit, Gesundheit oder gesellschaftliche Teilhabe, desto strenger sind die Anforderungen.

Rechtlich erfasst wird nicht jede Software, sondern ein KI-System im Sinne der Verordnung. Vereinfacht gesagt geht es um Systeme, die auf maschinengestützten Verfahren beruhen und aus Eingaben Ergebnisse wie Vorhersagen, Empfehlungen, Inhalte, Entscheidungen oder sonstige Ausgaben ableiten können, die physische oder virtuelle Umgebungen beeinflussen. Diese Definition ist bewusst weit gefasst. Dennoch ist nicht jede Automatisierung automatisch ein reguliertes KI-System. Klassische Wenn-dann-Regeln, einfache Datenbanken oder rein manuelle Entscheidungsprozesse sind daher gesondert zu prüfen.

Die Verordnung enthält insbesondere Vorgaben zu verbotenen KI-Praktiken, Hochrisiko-KI-Systemen, Transparenzpflichten für bestimmte KI-Anwendungen und besonderen Regeln für Modelle mit allgemeinem Verwendungszweck. Letztere werden oft als General-Purpose-AI-Modelle bezeichnet und können Grundlage zahlreicher Anwendungen sein, etwa für Textgenerierung, Bildanalyse, Programmierhilfe oder Wissensassistenz.

Für Unternehmen ist die gesetzliche Einordnung nicht nur eine technische Frage. Entscheidend ist der beabsichtigte Verwendungszweck, die tatsächliche Nutzung und die Rolle im Markt. Ein Unternehmen kann Anbieter sein, wenn es ein KI-System unter eigenem Namen entwickelt oder vertreibt. Es kann Betreiber sein, wenn es ein fremdes System beruflich einsetzt. Es kann aber auch durch erhebliche Änderungen am System oder durch eine neue Zweckbestimmung in eine Anbieterrolle hineinrutschen. Gerade diese Rollenzuordnung wird in der Praxis häufig unterschätzt.

Die EU-KI-Verordnung steht zudem nicht isoliert. Datenschutzrecht, Geschäftsgeheimnisschutz, Urheberrecht, Produkthaftung, IT-Sicherheitsrecht und branchenspezifische Vorgaben bleiben anwendbar. Wer also ein KI-System verordnungskonform einstuft, ist damit nicht automatisch datenschutzkonform oder haftungsfrei. Umgekehrt kann ein datenschutzrechtlich zulässiges System nach der KI-Verordnung zusätzliche Pflichten auslösen.

Wen betrifft die EU-KI-Verordnung in der Praxis?

Die EU-KI-Verordnung betrifft eine deutlich größere Gruppe als nur klassische Softwarehersteller. Erfasst sein können Entwickler, Importeure, Händler, Betreiber, Produkthersteller, öffentliche Stellen und Unternehmen außerhalb der Europäischen Union, wenn die Ergebnisse des KI-Systems in der EU verwendet werden. Dieser extraterritoriale Anwendungsbereich ist für internationale Geschäftsmodelle besonders relevant.

Ein Anbieter ist in der Regel, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Ein Betreiber nutzt ein KI-System in eigener Verantwortung beruflich oder institutionell. Diese Unterscheidung ist rechtlich bedeutsam, weil Anbieter die umfangreichsten Pflichten tragen, etwa Risikomanagement, technische Dokumentation, Konformitätsbewertung und Qualitätsmanagement bei Hochrisiko-KI. Betreiber müssen dagegen vor allem die bestimmungsgemäße Nutzung, menschliche Aufsicht, Eingabedaten, Monitoring und Dokumentation im eigenen Einsatzbereich sicherstellen.

Auch Importeure und Händler können eigene Prüf- und Mitwirkungspflichten treffen. Sie sollen verhindern, dass nicht konforme Systeme in den europäischen Markt gelangen oder eingesetzt werden. In Lieferketten mit mehreren Dienstleistern ist daher früh zu klären, wer welche Informationen bereitstellt, wer Updates kontrolliert und wer bei Fehlfunktionen Meldungen abgibt.

Für Unternehmen in Hamburg, München oder Frankfurt am Main ergeben sich praxisnahe Beispiele: Ein Logistikunternehmen nutzt ein KI-System zur Routenoptimierung und Personalplanung. Eine Bank in Frankfurt setzt ein Scoring-Tool für Kreditentscheidungen ein. Ein Arbeitgeber in München verwendet Software, die Bewerbungen vorsortiert. Eine Kanzlei, ein Immobilienunternehmen oder ein Versicherungsvermittler nutzt einen Chatbot zur Mandanten- oder Kundenkommunikation. Nicht alle diese Anwendungen sind Hochrisiko-Systeme. Dennoch können Transparenz-, Datenschutz-, Dokumentations- oder Organisationspflichten bestehen.

Besonders relevant sind auch interne KI-Werkzeuge. Viele Unternehmen gehen davon aus, dass rein interne Nutzung rechtlich weniger bedeutsam sei. Grundsätzlich kann der Verwendungszweck zwar eine Rolle spielen. Wird ein System aber für Beschäftigtenentscheidungen, Zugang zu Leistungen, Bonitätsprüfungen, Sicherheitsfunktionen oder sensible Bewertungen eingesetzt, kann auch ein internes Tool erhebliche Pflichten auslösen. Entscheidend ist nicht die Bezeichnung des Tools, sondern seine Funktion.

Risikoklassen und Abgrenzung zu ähnlichen Begriffen

Die EU-KI-Verordnung unterscheidet nicht nur zwischen erlaubten und verbotenen KI-Systemen. Sie bildet mehrere Kategorien, an die unterschiedliche Rechtsfolgen geknüpft sind. Diese Einordnung ist der zentrale Ausgangspunkt jeder Compliance-Prüfung. Ohne belastbare Risikoklassifizierung lässt sich weder bestimmen, welche Pflichten gelten, noch ob Beschaffung, Betrieb oder Weiterentwicklung rechtlich tragfähig organisiert sind.

In der Beratungspraxis zeigt sich häufig, dass Begriffe durcheinandergeraten. Ein System kann datenschutzrechtlich relevant sein, ohne Hochrisiko-KI zu sein. Umgekehrt kann ein Hochrisiko-KI-System auch dann vorliegen, wenn keine besonders sensiblen personenbezogenen Daten verarbeitet werden. Ebenso ist generative KI nicht automatisch Hochrisiko-KI. Sie kann aber Transparenzpflichten, Urheberrechtsfragen und Pflichten für Modelle mit allgemeinem Verwendungszweck auslösen.

Die Tabelle ersetzt keine Einzelfallprüfung, verdeutlicht aber den Prüfungsansatz. Maßgeblich ist stets, welche Funktion das System erfüllt, in welchem Umfeld es eingesetzt wird und welche Auswirkungen seine Ergebnisse haben können. Ein Chatbot zur allgemeinen Produktinformation ist regelmäßig anders zu beurteilen als ein Chatbot, der rechtlich oder medizinisch relevante Empfehlungen erzeugt und dadurch Entscheidungen beeinflusst.

Abzugrenzen ist die EU-KI-Verordnung insbesondere von der DSGVO. Die DSGVO schützt personenbezogene Daten und regelt etwa Rechtsgrundlagen, Transparenz, Betroffenenrechte, Auftragsverarbeitung und automatisierte Entscheidungen. Die KI-Verordnung regelt dagegen die Sicherheit, Transparenz, Marktüberwachung und Grundrechtsrisiken von KI-Systemen. Beide Regelwerke können gleichzeitig gelten. Wird etwa ein KI-System zur Personalauswahl eingesetzt, sind arbeitsrechtliche Vorgaben, Datenschutzrecht, Mitbestimmung des Betriebsrats und die KI-Verordnung parallel zu prüfen.

Abzugrenzen ist außerdem das Produkthaftungs- und Produktsicherheitsrecht. Bei KI in Maschinen, Medizinprodukten, Fahrzeugen oder industriellen Anlagen können Sicherheitsanforderungen aus mehreren Regimen zusammenlaufen. Die rechtliche Herausforderung besteht dann darin, Widersprüche zu vermeiden und technische Dokumentationen so aufzubauen, dass sie sowohl KI-rechtliche als auch produktsicherheitsrechtliche Anforderungen abdecken.

Welche Pflichten entstehen für Anbieter, Betreiber und Nutzer?

Die Pflichten nach der EU-KI-Verordnung hängen zunächst von der Rolle ab. Anbieter von Hochrisiko-KI-Systemen müssen typischerweise ein Risikomanagementsystem einrichten, Trainings-, Validierungs- und Testdaten kontrollieren, technische Dokumentation erstellen, Protokollierungsfunktionen vorsehen, Transparenzinformationen bereitstellen, menschliche Aufsicht ermöglichen und ein Qualitätsmanagementsystem betreiben. Hinzu kommen Konformitätsbewertung, Registrierungspflichten und gegebenenfalls Marktüberwachungspflichten nach dem Inverkehrbringen.

Betreiber haben andere, aber keineswegs nur formale Pflichten. Sie müssen das System entsprechend der Gebrauchsanweisung verwenden, menschliche Aufsicht sicherstellen, Eingabedaten im konkreten Nutzungskontext kontrollieren und relevante Vorfälle beobachten. Wenn ein Betreiber feststellt, dass ein Hochrisiko-KI-System ein Risiko verursacht oder nicht wie vorgesehen funktioniert, können Informations- und Abhilfepflichten gegenüber Anbieter oder Behörden entstehen.

Bei KI-Systemen mit Transparenzpflichten geht es vor allem darum, dass betroffene Personen erkennen können, dass sie mit einem KI-System interagieren oder KI-generierte Inhalte vor sich haben. Ein Website-Chatbot muss daher je nach Ausgestaltung offenlegen, dass keine natürliche Person antwortet. Bei Deepfakes oder synthetischen Inhalten können Kennzeichnungspflichten bestehen. Allerdings sind die Details vom Verwendungszweck, Medium, Adressatenkreis und möglichen Ausnahmen abhängig.

Für Modelle mit allgemeinem Verwendungszweck gelten besondere Anforderungen an technische Dokumentation, Informationen für nachgelagerte Anbieter, Zusammenfassungen der Trainingsinhalte und bei systemischen Risiken weitergehende Pflichten. Unternehmen, die solche Modelle lediglich als eingebundene Drittleistung nutzen, sollten dennoch vertraglich klären, welche Dokumentation, Nutzungsbeschränkungen und Sicherheitsinformationen der Modellanbieter bereitstellt. Fehlende Informationen können die eigene Risikobewertung erschweren.

Nicht zu unterschätzen ist die Pflicht zur KI-Kompetenz. Unternehmen sollen sicherstellen, dass Personen, die mit KI-Systemen umgehen, über ausreichende Kenntnisse verfügen. Das bedeutet nicht zwingend umfangreiche juristische Schulungen für alle Beschäftigten. Erforderlich sind jedoch angemessene Kenntnisse in Bezug auf Zweck, Grenzen, Risiken und sachgerechte Nutzung des jeweiligen Systems. Bei Beschäftigten, die KI-Ergebnisse in Kundenberatung, HR, Compliance oder medizinisch-technischen Prozessen verwenden, sind die Anforderungen regelmäßig höher als bei gelegentlicher Nutzung eines Textassistenzsystems.

In der Vertragsgestaltung sollten Anbieter und Betreiber Zuständigkeiten sauber verteilen. Dazu gehören Regelungen zu Datenquellen, zulässiger Nutzung, Updates, Audit-Rechten, Fehlerbehebung, Sicherheitsvorfällen, Dokumentationszugang und Haftung. Standardverträge von Softwareanbietern decken diese Fragen nicht immer hinreichend ab. Gerade bei Hochrisiko- oder sensiblen KI-Anwendungen sollte der Vertrag nicht nur Preis und Lizenzumfang, sondern auch regulatorische Mitwirkungspflichten erfassen.

Fristen, Übergangszeiten und Verjährung: Was gilt ab wann?

Die EU-KI-Verordnung ist im August 2024 in Kraft getreten. Ihre Pflichten gelten jedoch nicht alle gleichzeitig. Der Gesetzgeber hat gestufte Anwendungszeitpunkte vorgesehen, damit Unternehmen, Behörden und Marktüberwachung Strukturen aufbauen können. Für die Praxis bedeutet das: Nicht jede Pflicht ist sofort durchsetzbar, aber abwarten ist regelmäßig keine belastbare Strategie, wenn Systeme beschafft, entwickelt oder in langfristige Prozesse integriert werden.

Bereits früh greifen Vorgaben zu verbotenen KI-Praktiken und zur KI-Kompetenz. Pflichten für Modelle mit allgemeinem Verwendungszweck folgen vor den allgemeinen Pflichten für viele Hochrisiko-KI-Systeme. Der Großteil der Regelungen wird im Jahr 2026 praktisch relevant. Für bestimmte Hochrisiko-Systeme, die in regulierte Produkte eingebettet sind, können längere Übergangsfristen gelten. Da Übergangs- und Sonderregeln komplex sind, sollte die Frist nicht isoliert betrachtet werden, sondern im Zusammenhang mit Produktkategorie, Rolle und Inverkehrbringen.

Typische Eckpunkte sind: Verbote bestimmter KI-Praktiken und Anforderungen an KI-Kompetenz gelten ab Februar 2025. Pflichten für General-Purpose-AI-Modelle werden ab August 2025 besonders relevant. Viele allgemeine Pflichten der Verordnung gelten ab August 2026. Für bestimmte Hochrisiko-KI-Systeme, die Teil bereits anderweitig regulierter Produkte sind, kann der August 2027 bedeutsam sein. Diese Darstellung ist vereinfacht und ersetzt keine genaue Prüfung der jeweils einschlägigen Vorschriften.

Die Frage der Verjährung stellt sich in mehreren Ebenen. Bußgeldverfahren richten sich nach öffentlich-rechtlichen und verfahrensrechtlichen Regeln, die je nach Zuständigkeit und nationaler Ausgestaltung zu beurteilen sind. Zivilrechtliche Ansprüche, etwa wegen fehlerhafter Beratung, Vertragsverletzung, Datenschutzverstößen oder Produktschäden, können den allgemeinen Verjährungsregeln unterliegen. Häufig beträgt die regelmäßige Verjährungsfrist nach deutschem Recht drei Jahre ab Schluss des Jahres, in dem Anspruch und Kenntnis vorliegen. Je nach Anspruchsgrundlage können jedoch Sonderfristen gelten.

Für Unternehmen folgt daraus ein praktischer Hinweis: Dokumentation sollte nicht nur für den Zeitpunkt der Einführung erstellt werden. Sie sollte so aufbewahrt werden, dass spätere Prüfungen, Reklamationen, Auskunftsbegehren oder Haftungsfälle nachvollziehbar bearbeitet werden können. Bei langfristig eingesetzten KI-Systemen sind Versionen, Modellupdates, Datenänderungen und interne Freigaben besonders wichtig, weil spätere Schäden oft nur anhand historischer Stände bewertet werden können.

Praxisrelevante Fallkonstellationen aus Unternehmen und Behörden

Die EU-KI-Verordnung wird in der Praxis vor allem dort relevant, wo KI-Ergebnisse Entscheidungen vorbereiten oder beeinflussen. Dabei muss das System die Entscheidung nicht vollständig automatisiert treffen. Es kann ausreichen, dass ein Mensch sich regelmäßig auf KI-Ausgaben stützt und diese faktisch erhebliches Gewicht erhalten. Gerade diese Zwischenformen sind rechtlich anspruchsvoll, weil Verantwortliche gerne davon ausgehen, dass menschliche Letztentscheidung alle Risiken neutralisiert. Das ist nur dann tragfähig, wenn die menschliche Aufsicht tatsächlich wirksam ausgestaltet ist.

Ein häufiges Beispiel ist die Bewerberauswahl. Nutzt ein Unternehmen Software, die Lebensläufe bewertet, Rankings erstellt oder Eignungsprofile generiert, kann dies in den Bereich Hochrisiko-KI fallen. Neben der KI-Verordnung sind dann arbeitsrechtliche Gleichbehandlungsgrundsätze, Datenschutzrecht und mögliche Mitbestimmungsrechte des Betriebsrats zu beachten. Praktisch wichtig ist, ob die Kriterien nachvollziehbar sind, ob Diskriminierungsrisiken geprüft wurden und ob Personalverantwortliche die Ergebnisse kritisch hinterfragen können.

Ein weiteres Beispiel ist Kredit- und Bonitätsprüfung. Banken, FinTechs oder Händler mit Ratenzahlungsangeboten können KI-Systeme einsetzen, die Zahlungsausfallrisiken prognostizieren. In Frankfurt am Main, wo viele Finanzdienstleister ansässig sind, ist diese Konstellation besonders naheliegend. Hier treffen KI-Verordnung, Bankaufsichtsrecht, Verbraucherschutz, Datenschutz und Antidiskriminierungsrecht aufeinander. Eine rein technische Modellgüte genügt nicht, wenn Merkmale mittelbar diskriminierend wirken oder die Entscheidungslogik für Betroffene nicht nachvollziehbar ist.

Auch der Kundendienst wirft Fragen auf. Ein Chatbot, der nur Öffnungszeiten mitteilt, ist regelmäßig anders zu bewerten als ein System, das rechtlich relevante Vertragsauskünfte gibt, Kündigungen vorbereitet oder medizinische Empfehlungen formuliert. Bei KI-generierten Inhalten ist zu prüfen, ob Nutzer über die KI-Interaktion informiert werden müssen und wie Fehlangaben korrigiert werden können. Werden personenbezogene Daten verarbeitet, kommen zusätzlich Informationspflichten und Rechtsgrundlagen nach der DSGVO hinzu.

In der Industrie kann KI in Qualitätskontrolle, Wartungsprognosen oder Sicherheitsfunktionen eingesetzt werden. Hier steht weniger die Kommunikation mit Einzelpersonen im Vordergrund, sondern Produkt- und Betriebssicherheit. Ein KI-System, das fehlerhafte Bauteile erkennt, kann wirtschaftlich hilfreich sein. Wenn seine Fehlfunktion aber Sicherheitsrisiken verursacht, steigen Anforderungen an Validierung, Überwachung und Dokumentation deutlich. Die konkrete Einordnung hängt davon ab, ob das System Bestandteil eines regulierten Produkts ist und welche Risiken mit Fehlentscheidungen verbunden sind.

Öffentliche Stellen müssen zusätzlich Grundrechtsbindung und Verwaltungsverfahren beachten. KI in Leistungsverwaltung, Gefahrenabwehr oder Zugang zu Bildung kann besonders sensibel sein. Selbst wenn eine Anwendung technisch ausgereift ist, kann ihr Einsatz problematisch sein, wenn Betroffene keine verständliche Information erhalten oder rechtliches Gehör faktisch erschwert wird.

Risiken, Haftung und typische Fehler bei der Umsetzung

Die EU-KI-Verordnung sieht erhebliche Bußgeldrahmen vor. Für verbotene KI-Praktiken können Sanktionen besonders hoch ausfallen. Bei anderen Verstößen, etwa gegen Pflichten für Hochrisiko-KI-Systeme, drohen ebenfalls empfindliche Bußgelder. Für falsche, unvollständige oder irreführende Informationen gegenüber Behörden gelten eigene Bußgeldtatbestände. Die genaue Höhe hängt jedoch von Art, Schwere, Dauer, Vorsatz oder Fahrlässigkeit, Unternehmensgröße und weiteren Umständen ab. Ein Bußgeld ist daher nie automatisch, aber das Risiko sollte realistisch berücksichtigt werden.

Haftung kann außerdem außerhalb der Verordnung entstehen. Wenn ein KI-System fehlerhafte Entscheidungen unterstützt, können Vertragspartner Schadensersatz verlangen, Beschäftigte Diskriminierung geltend machen, Verbraucher Ansprüche prüfen oder Aufsichtsbehörden datenschutzrechtliche Maßnahmen ergreifen. Bei Produkten mit Sicherheitsbezug kommen Produkthaftung und deliktische Haftung hinzu. Die Verordnung schafft also nicht alle Haftungsgrundlagen neu, erhöht aber die Erwartungen an Sorgfalt, Dokumentation und Nachvollziehbarkeit.

Typische Fehler entstehen weniger durch bösen Willen als durch fehlende Zuständigkeit. KI wird oft dezentral eingeführt: Marketing nutzt ein Texttool, HR testet Bewerbungssoftware, IT integriert ein Assistenzsystem, Vertrieb verwendet automatische Lead-Bewertung. Ohne Gesamtüberblick kann ein Unternehmen seine Risiken kaum bewerten.

• KI-Systeme werden beschafft, ohne Rolle, Verwendungszweck und Risikoklasse zu dokumentieren.
• Verträge enthalten keine ausreichenden Zusagen zu Dokumentation, Updates, Datenquellen und regulatorischer Mitwirkung.
• Beschäftigte nutzen frei verfügbare KI-Tools mit vertraulichen, personenbezogenen oder geschützten Informationen.
• Eine menschliche Kontrolle wird nur formal vorgesehen, ist aber organisatorisch oder fachlich nicht wirksam.
• KI-generierte Inhalte werden ungeprüft an Kunden, Behörden oder Vertragspartner weitergegeben.
• Datenschutz-Folgenabschätzung, Betriebsratsbeteiligung oder Informationspflichten werden zu spät geprüft.
• Modelländerungen, neue Versionen oder geänderte Einsatzbereiche werden nicht erneut bewertet.
• Vorfallmanagement und Meldewege sind unklar, wenn ein KI-System fehlerhafte oder diskriminierende Ergebnisse liefert.

Besonders riskant ist die Annahme, ein eingekauftes Tool sei allein Sache des Anbieters. Grundsätzlich trägt der Anbieter viele technische Pflichten. Der Betreiber bleibt aber für seine Nutzung verantwortlich. Wenn ein Unternehmen ein System außerhalb der vorgesehenen Zweckbestimmung einsetzt, kann es zusätzliche Verantwortung übernehmen. Gleiches gilt, wenn Ausgaben automatisiert in Geschäftsprozesse einfließen, ohne dass Beschäftigte ausreichende Prüfungskompetenz haben.

Ein weiterer Fehler ist die isolierte Betrachtung der KI-Verordnung. Ein Personaltool kann nach KI-Recht dokumentiert sein, aber datenschutzrechtlich unzulässig bleiben. Ein Chatbot kann transparent gekennzeichnet sein, aber wettbewerbsrechtlich irreführende Angaben machen. Ein generatives Modell kann technisch leistungsfähig sein, aber urheberrechtliche Risiken bei Trainingsdaten oder Ausgaben aufwerfen. Rechtssichere Umsetzung verlangt daher eine koordinierte Prüfung.

Beweisfragen, Dokumentation und interne Verantwortlichkeit

Beweisfragen spielen bei der EU-KI-Verordnung eine zentrale Rolle, auch wenn die Verordnung nicht jede spätere Streitigkeit selbst regelt. Wer im Konfliktfall erklären muss, warum ein KI-System eingeführt, wie es geprüft und wie es überwacht wurde, ist auf belastbare Dokumentation angewiesen. Das betrifft nicht nur Anbieter von Hochrisiko-KI, sondern auch Betreiber, die ihre Auswahlentscheidung, Nutzung und Kontrollmaßnahmen nachvollziehbar belegen sollten.

Dokumentation dient dabei mehreren Zwecken. Sie unterstützt die interne Steuerung, erleichtert behördliche Prüfungen, hilft bei Vertragsstreitigkeiten mit Softwareanbietern und kann im Haftungsfall entlastend wirken. Allerdings ersetzt eine Dokumentation keine tatsächliche Compliance. Wenn Unterlagen nur nachträglich erstellt werden oder die gelebte Praxis nicht abbilden, kann dies sogar nachteilig wirken.

In Unternehmen sollte klar geregelt sein, wer KI-Systeme freigibt, wer Änderungen prüft und wer Vorfälle bearbeitet. Je nach Größe und Branche können Rechtsabteilung, Datenschutzbeauftragte, Informationssicherheit, Einkauf, Fachabteilung, Compliance und Betriebsrat einzubeziehen sein. Bei kleineren Unternehmen genügt oft eine schlankere Struktur, wenn Zuständigkeiten eindeutig sind und Entscheidungen dokumentiert werden.

Für die Beweisführung und laufende Kontrolle sind insbesondere folgende Unterlagen relevant:

• Inventar aller eingesetzten KI-Systeme mit Zweck, Fachbereich, Anbieter und Verantwortlichen.
• Risikoklassifizierung mit Begründung und Datum der Prüfung.
• Verträge, Leistungsbeschreibungen, Nutzungsbedingungen und technische Dokumentationen des Anbieters.
• Datenschutzunterlagen, insbesondere Rechtsgrundlagen, Informationspflichten, Auftragsverarbeitungsverträge und gegebenenfalls Datenschutz-Folgenabschätzung.
• Protokolle zu Freigaben, Tests, Bias-Prüfungen, Sicherheitsprüfungen und menschlicher Aufsicht.
• Schulungsnachweise zur KI-Kompetenz der relevanten Beschäftigten.
• Versionen, Updates, Modelländerungen und Änderungen des Verwendungszwecks.
• Vorfallsberichte, Beschwerden, Korrekturmaßnahmen und Kommunikation mit Anbietern oder Behörden.

Die Aufbewahrungsdauer sollte sich an gesetzlichen Pflichten, Vertragslaufzeiten, Verjährungsrisiken und branchenspezifischen Anforderungen orientieren. Pauschale Fristen sind wenig hilfreich. Bei Systemen, die Entscheidungen über Personen beeinflussen, sollten Unternehmen besonders sorgfältig dokumentieren, welcher Systemstand und welche Datenbasis zu einem bestimmten Zeitpunkt verwendet wurden.

Handlungsschritte: Checkliste für die Umsetzung der EU-KI-Verordnung

Die Umsetzung der EU-KI-Verordnung sollte nicht erst mit Ablauf der Übergangsfristen beginnen. Viele Pflichten lassen sich nur sinnvoll erfüllen, wenn Beschaffung, IT, Datenschutz, Fachabteilungen und Management zusammenarbeiten. Gleichzeitig ist nicht jedes Unternehmen verpflichtet, ein komplexes Compliance-Programm aufzubauen. Entscheidend ist eine risikoorientierte Vorgehensweise, die Umfang, Branche und Einsatzbereiche berücksichtigt.

Der erste Schritt ist regelmäßig Transparenz über die tatsächlich genutzten KI-Systeme. Unternehmen stellen dabei oft fest, dass mehr KI im Einsatz ist als offiziell bekannt. Neben lizenzierten Systemen sind Browser-Tools, Office-Erweiterungen, Analysefunktionen in CRM-Systemen, Chatbots, Übersetzungstools oder automatisierte Entscheidungshilfen einzubeziehen. Auch Testprojekte und Pilotanwendungen sollten erfasst werden, weil aus ihnen später produktive Prozesse entstehen können.

1. KI-Inventar erstellen: Erfassen Sie alle KI-Anwendungen, einschließlich Pilotprojekten, Schatten-IT und eingebetteten Funktionen in Standardsoftware.
2. Rolle bestimmen: Prüfen Sie je System, ob Ihr Unternehmen Anbieter, Betreiber, Importeur, Händler oder nur interner Nutzer ist. Dokumentieren Sie die Einordnung mit Datum.
3. Verwendungszweck festlegen: Beschreiben Sie, welche Aufgabe das System erfüllen soll und welche Entscheidungen es beeinflusst. Änderungen des Zwecks müssen später erneut geprüft werden.
4. Risikoklasse bewerten: Ordnen Sie das System den Kategorien der EU-KI-Verordnung zu und prüfen Sie zusätzlich Datenschutz, Arbeitsrecht, Produktsicherheit und Branchenrecht.
5. Fristenkalender anlegen: Hinterlegen Sie für jedes System relevante Anwendungszeitpunkte, Vertragslaufzeiten, Updatezyklen und interne Wiedervorlagen.
6. Verträge und Anbieterinformationen prüfen: Fordern Sie technische Dokumentation, Nutzungsbeschränkungen, Sicherheitsinformationen, Update-Regeln und Mitwirkungspflichten an.
7. Datenschutz und Informationspflichten klären: Prüfen Sie Rechtsgrundlagen, Betroffeneninformationen, Auftragsverarbeitung und gegebenenfalls eine Datenschutz-Folgenabschätzung.
8. Menschliche Aufsicht organisieren: Legen Sie fest, wer Ergebnisse prüft, wann KI-Ausgaben verworfen werden müssen und wie Eskalationen erfolgen.
9. Beschäftigte schulen: Vermitteln Sie praxisnahe KI-Kompetenz, insbesondere zu zulässigen Daten, Fehlerquellen, Halluzinationen, Bias und Dokumentation.
10. Dokumentationssystem einrichten: Bewahren Sie Freigaben, Prüfungen, Versionen, Vorfälle und Korrekturmaßnahmen nachvollziehbar auf.
11. Vorfallmanagement definieren: Bestimmen Sie Meldewege für fehlerhafte, diskriminierende, sicherheitsrelevante oder datenschutzkritische KI-Ergebnisse.
12. Regelmäßige Überprüfung planen: Prüfen Sie KI-Systeme nach Updates, neuen Datenquellen, geänderter Nutzung oder Beschwerden erneut.

Für viele Unternehmen ist es sinnvoll, die Systeme nach Priorität zu bearbeiten. Zuerst sollten Anwendungen geprüft werden, die Personen bewerten, Rechte beeinflussen, sicherheitsrelevante Funktionen übernehmen oder in stark regulierten Bereichen eingesetzt werden. Niedrigrisiko-Tools können danach standardisiert erfasst und mit Nutzungsrichtlinien versehen werden.

Die Checkliste ist kein starres Schema. Ein kleines Handelsunternehmen mit einem einfachen Support-Chatbot benötigt andere Maßnahmen als ein Medizintechnikhersteller, ein Finanzdienstleister oder ein Konzern mit internationalen HR-Systemen. Dennoch helfen die Schritte, Verantwortlichkeiten sichtbar zu machen und spätere Nachweise strukturiert vorzubereiten.

EU-KI-Verordnung, DSGVO und andere Rechtsgebiete zusammen prüfen

Die EU-KI-Verordnung verändert nicht die Grundlogik anderer Rechtsgebiete. Sie ergänzt sie. Für Unternehmen bedeutet das, dass KI-Compliance nur dann tragfähig ist, wenn Schnittstellen systematisch geprüft werden. Besonders häufig überschneiden sich KI-Verordnung und Datenschutzrecht, weil viele KI-Systeme personenbezogene Daten verarbeiten oder Ergebnisse über Personen erzeugen.

Nach der DSGVO braucht jede Verarbeitung personenbezogener Daten eine Rechtsgrundlage. Außerdem müssen Zwecke bestimmt, Daten minimiert, Transparenz geschaffen und Betroffenenrechte ermöglicht werden. Bei automatisierten Entscheidungen können zusätzliche Anforderungen gelten. Die EU-KI-Verordnung fragt dagegen stärker danach, ob das KI-System sicher, nachvollziehbar, überwacht und angemessen dokumentiert ist. Beide Prüfungen haben unterschiedliche Ausgangspunkte, müssen aber zusammengeführt werden.

Im Arbeitsverhältnis kommen Besonderheiten hinzu. Beschäftigtendaten sind besonders sensibel, weil ein strukturelles Ungleichgewicht besteht. KI-Systeme zur Leistungsbewertung, Einsatzplanung oder Bewerberauswahl können daher arbeitsrechtliche Risiken und Mitbestimmungsrechte auslösen. Selbst wenn ein Tool objektiv wirken soll, können Trainingsdaten historische Verzerrungen enthalten. Arbeitgeber sollten deshalb nicht nur technische Genauigkeit prüfen, sondern auch Gleichbehandlung und Transparenz.

Urheberrechtliche Fragen entstehen vor allem bei generativer KI. Unternehmen sollten klären, ob Eingaben urheberrechtlich geschützte Inhalte enthalten dürfen, welche Rechte an Ausgaben bestehen und ob KI-generierte Inhalte fremde Werke nachahmen können. Die Rechtslage ist hier nicht in jedem Punkt abschließend geklärt. Umso wichtiger sind interne Leitlinien, Freigabeprozesse und vertragliche Regelungen.

Auch Geschäftsgeheimnisse und Vertraulichkeit sind relevant. Wer vertrauliche Vertragsentwürfe, Quellcode, Mandantendaten oder Geschäftsstrategien in externe KI-Tools eingibt, kann Schutzrechte und Geheimhaltungsinteressen gefährden. Ob ein Anbieter verspricht, Eingaben nicht für Training zu verwenden, sollte vertraglich und technisch überprüft werden. Bloße Nutzerhinweise reichen für sensible Daten regelmäßig nicht aus.

In regulierten Branchen treten weitere Vorgaben hinzu. Finanzdienstleister müssen Aufsichtsanforderungen an Auslagerung, Risikomanagement und IT-Sicherheit beachten. Gesundheitsunternehmen müssen Medizinprodukte-, Berufs- und Datenschutzrecht berücksichtigen. Betreiber kritischer Infrastruktur müssen IT-Sicherheits- und Resilienzpflichten einplanen. Die KI-Verordnung ist daher ein wichtiger Baustein, aber nicht die alleinige Rechtsgrundlage.

Besondere Anforderungen bei Hochrisiko-KI

Hochrisiko-KI ist der Bereich der EU-KI-Verordnung mit den umfangreichsten praktischen Pflichten. Erfasst sind einerseits bestimmte KI-Systeme, die Sicherheitskomponenten regulierter Produkte sind oder selbst solchen Produktvorschriften unterfallen. Andererseits nennt die Verordnung Einsatzbereiche, in denen KI wegen ihrer Auswirkungen auf Personen und Grundrechte besonders sensibel ist. Dazu zählen unter anderem Beschäftigung, Bildung, Zugang zu wesentlichen privaten oder öffentlichen Leistungen, Strafverfolgung, Migration und bestimmte Bereiche der Rechtspflege.

Für Anbieter bedeutet Hochrisiko-Einstufung regelmäßig erheblichen organisatorischen Aufwand. Sie müssen ein fortlaufendes Risikomanagementsystem betreiben, geeignete Daten-Governance sicherstellen, technische Dokumentation erstellen, Aufzeichnungen ermöglichen, Transparenzinformationen bereitstellen und menschliche Aufsicht technisch unterstützen. Zudem müssen Genauigkeit, Robustheit und Cybersicherheit angemessen gewährleistet werden. Diese Anforderungen sind nicht nur bei Markteintritt relevant, sondern während des gesamten Lebenszyklus.

Betreiber von Hochrisiko-KI müssen prüfen, ob das System entsprechend der Anbieterinformationen eingesetzt wird. Sie dürfen Eingabedaten nicht unkritisch verwenden, wenn diese für den konkreten Zweck ungeeignet sind. Außerdem müssen sie Personal einsetzen, das die Aufsicht sachgerecht ausüben kann. Eine menschliche Kontrolle ist nur wirksam, wenn die Person die Grenzen des Systems versteht, ausreichende Zeit hat und organisatorisch befugt ist, KI-Ergebnisse zu korrigieren oder abzulehnen.

In manchen Fällen ist eine Grundrechte-Folgenabschätzung erforderlich, insbesondere bei bestimmten Betreibern und Einsatzbereichen. Diese Prüfung soll sichtbar machen, welche Auswirkungen das System auf betroffene Personen haben kann und welche Maßnahmen zur Risikominderung vorgesehen sind. Sie steht neben einer möglichen Datenschutz-Folgenabschätzung nach der DSGVO. Beide Prüfungen können inhaltliche Überschneidungen haben, sind aber nicht identisch.

Unternehmen sollten bei Hochrisiko-KI besonders vorsichtig mit Pilotprojekten umgehen. Ein Testbetrieb kann rechtlich anders zu bewerten sein als produktiver Einsatz. Werden jedoch reale Entscheidungen beeinflusst oder personenbezogene Daten in relevantem Umfang verarbeitet, können Pflichten bereits früh entstehen. Auch Beschaffungsentscheidungen sollten nicht allein nach Funktionsumfang getroffen werden. Entscheidend ist, ob der Anbieter die erforderlichen Unterlagen, Konformitätsnachweise und Unterstützungsleistungen bereitstellen kann.

Interne Governance: Wer sollte im Unternehmen zuständig sein?

Eine tragfähige Umsetzung der EU-KI-Verordnung benötigt klare Verantwortlichkeiten. Viele Risiken entstehen, weil KI als rein technisches Thema behandelt wird. Tatsächlich betrifft sie Einkauf, IT, Datenschutz, Informationssicherheit, Personal, Fachabteilungen, Compliance und Geschäftsleitung. Je nach Unternehmen kann eine zentrale KI-Governance sinnvoll sein, die Standards vorgibt und risikoreiche Anwendungen freigibt.

Die Geschäftsleitung muss nicht jede Anwendung im Detail prüfen. Sie sollte aber sicherstellen, dass angemessene Strukturen bestehen. Dazu gehören ein Überblick über wesentliche KI-Systeme, klare Entscheidungskompetenzen, Eskalationswege und Ressourcen für Schulung und Dokumentation. Bei größeren Unternehmen kann ein KI-Board oder ein interdisziplinärer Freigabeprozess sinnvoll sein. Bei kleineren Unternehmen reicht häufig eine verantwortliche Person mit Zugriff auf externe fachliche Unterstützung.

Der Einkauf spielt eine wichtige Rolle, weil viele Pflichten bereits im Beschaffungsprozess vorbereitet werden. Werden Anbieterinformationen, technische Dokumentation, Datenschutzunterlagen und Update-Regeln erst nach Vertragsschluss angefordert, ist die Verhandlungsposition oft schwächer. Auch Kündigungsrechte, Audit-Möglichkeiten und Unterstützung bei Behördenanfragen sollten früh geregelt werden.

Die IT-Abteilung sollte technische Sicherheitsanforderungen, Schnittstellen, Berechtigungen, Protokollierung und Datenflüsse prüfen. Datenschutzbeauftragte bewerten personenbezogene Datenverarbeitung, Betroffenenrechte und Auftragsverarbeitung. Die Fachabteilung muss erklären, wofür das System tatsächlich genutzt wird und welche Folgen fehlerhafte Ausgaben haben. Ohne diese fachliche Einordnung bleibt die rechtliche Risikoklassifizierung unvollständig.

Beschäftigte benötigen klare Nutzungsrichtlinien. Diese sollten nicht nur Verbote enthalten, sondern praxisnah erklären, welche Daten eingegeben werden dürfen, wann Ergebnisse zu prüfen sind, wie KI-generierte Inhalte gekennzeichnet werden und an wen Fragen oder Vorfälle zu melden sind. Zu strenge oder unverständliche Regeln werden häufig umgangen. Zu offene Regeln schaffen Haftungs- und Vertraulichkeitsrisiken. Ein angemessener Mittelweg ist einzelfallabhängig.

FAQ zur EU-KI-Verordnung

Fazit: EU-KI-Verordnung frühzeitig strukturiert angehen

Die EU-KI-Verordnung verlangt keine pauschale Abkehr von KI, sondern eine nachvollziehbare, risikoorientierte Steuerung. Priorität haben zunächst Transparenz über eingesetzte Systeme, Rollenzuordnung, Risikoklassifizierung, Fristenplanung und belastbare Dokumentation. Besonders sorgfältig sollten Anwendungen geprüft werden, die Menschen bewerten, Beschäftigtenentscheidungen beeinflussen, Zugang zu Leistungen steuern oder sicherheitsrelevante Funktionen erfüllen.

Für Unternehmen ist es sinnvoll, bestehende Datenschutz-, IT-Sicherheits- und Compliance-Strukturen zu nutzen, sie aber um KI-spezifische Prüfungen zu ergänzen. Verträge mit Anbietern, interne Nutzungsrichtlinien, Schulungen und Vorfallprozesse sollten rechtzeitig angepasst werden. Ob ein System verboten, hochriskant, transparenzpflichtig oder eher risikoarm ist, lässt sich jedoch nur anhand des konkreten Verwendungszwecks, der Daten, der technischen Ausgestaltung und der organisatorischen Einbindung bewerten.