KI-Trainingsdaten: Rechtliche Grundlagen, Risiken und Nachweise

KI-Trainingsdaten sind rechtlich selten nur ein technisches Thema. Wer Daten sammelt, bereinigt, lizenziert, in ein Modell einspeist oder für Fine-Tuning nutzt, berührt regelmäßig Urheberrecht, Datenschutzrecht, Geschäftsgeheimnisse, Vertragsrecht und zunehmend auch Vorgaben aus der KI-Regulierung. Für Unternehmen stellt sich die Frage, ob Datensätze rechtssicher genutzt werden dürfen und welche Dokumentation später nachweisbar sein muss. Rechteinhaber, Beschäftigte, Kundinnen und Kunden oder sonstige Betroffene fragen dagegen, ob ihre Inhalte, personenbezogenen Daten oder vertraulichen Informationen ohne ausreichende Grundlage verwendet wurden.

Dieser Beitrag ordnet die wichtigsten Rechtsfragen rund um KI-Trainingsdaten ein. Er ersetzt keine Prüfung des konkreten Datensatzes, zeigt aber typische Konfliktfelder, Nachweise, Fristen und Handlungsmöglichkeiten. Besonders wichtig ist: Nicht jeder Datensatz ist problematisch, aber auch nicht jede öffentlich zugängliche Information darf ohne Weiteres für KI-Training genutzt werden. Entscheidend sind Herkunft, Inhalt, Zweck, technische Verarbeitung, Widersprüche, Lizenzen und die spätere Nutzung des Modells.

Inhaltsverzeichnis

1. Was sind KI-Trainingsdaten?
2. Rechtliche Grundlagen für KI-Trainingsdaten
3. KI-Trainingsdaten abgrenzen: Training, Fine-Tuning, Prompting und Scraping
4. Typische Fallkonstellationen aus der Praxis
5. Unternehmen als Anbieter oder Nutzer von KI-Systemen
6. Rechteinhaber, Beschäftigte und Betroffene: Welche Ansprüche kommen in Betracht?
7. Risiken und Haftung bei unzulässigen KI-Trainingsdaten
8. Fristen, Verjährung, Löschung und Widerspruch
9. Beweise und Dokumentation: Was muss nachweisbar sein?
10. Handlungsschritte für Unternehmen und Betroffene
11. Besondere Fragen bei Lizenzen, Open Data und synthetischen Daten
12. FAQ zu KI-Trainingsdaten
13. … und 1 weitere Abschnitte

Was sind KI-Trainingsdaten?

KI-Trainingsdaten sind Informationen, mit denen ein KI-System Muster erkennt, Gewichtungen bildet oder bestimmte Ausgaben erlernt. Das können Texte, Bilder, Videos, Audiodateien, Quellcode, Messdaten, Kundendaten, Logfiles, medizinische Befunde, Produktdaten, Vertragsdokumente oder synthetisch erzeugte Daten sein. Rechtlich relevant ist nicht nur der Datensatz als Datei, sondern die gesamte Datenverarbeitungskette: Beschaffung, Auswahl, Bereinigung, Kennzeichnung, Speicherung, Training, Validierung, Test, Fine-Tuning und spätere Modellnutzung.

Der Begriff ist gesetzlich nicht einheitlich definiert. In der Praxis wird er technisch geprägt verwendet. Rechtlich muss daher immer geprüft werden, welche Rechte oder Pflichten an den einzelnen Datenbestandteilen hängen. Ein Datensatz kann gleichzeitig urheberrechtlich geschützte Texte, personenbezogene Daten, Datenbankbestandteile, Geschäftsgeheimnisse und vertraglich beschränkte Nutzungsrechte enthalten. Die rechtliche Bewertung kann deshalb für verschiedene Teile desselben Datensatzes unterschiedlich ausfallen.

Für Mandanten ist diese Differenzierung zentral. Ein Bilddatensatz aus offen zugänglichen Webseiten kann urheberrechtlich geschützte Werke enthalten. Ein Support-Ticket-Datensatz kann personenbezogene Daten, Betriebsinterna und vertrauliche Vertragsinformationen enthalten. Ein Datensatz mit Maschinenparametern kann zwar keine personenbezogenen Daten enthalten, aber als Geschäftsgeheimnis oder vertraglich geschützter Produktionsdatensatz relevant sein.

Grundsätzlich gilt: KI-Training ist rechtlich nicht automatisch verboten. Ebenso wenig ist es automatisch erlaubt, nur weil Daten im Internet auffindbar sind oder technisch kopiert werden können. Maßgeblich sind die konkrete Datenquelle, die Rechtsgrundlage, die Zweckbindung, mögliche Ausschlüsse, die Schutzfähigkeit der Inhalte und die Frage, ob Betroffene oder Rechteinhaber ihre Rechte wirksam geltend machen können.

Rechtliche Grundlagen für KI-Trainingsdaten

Die rechtliche Bewertung von KI-Trainingsdaten verteilt sich auf mehrere Rechtsgebiete. Es gibt kein einzelnes „KI-Trainingsdaten-Gesetz“, das alle Fragen abschließend beantwortet. Unternehmen sollten deshalb nicht nur auf eine urheberrechtliche Lizenz oder eine Datenschutzerklärung schauen, sondern den gesamten Rechtsrahmen erfassen. Besonders relevant sind das Urheberrecht, das Datenschutzrecht, das Geschäftsgeheimnisrecht, Vertragsrecht, Datenbankrecht und die europäische KI-Verordnung.

Im Urheberrecht stehen vor allem geschützte Werke wie Texte, Bilder, Musik, Videos, Softwarecode oder wissenschaftliche Beiträge im Fokus. Das deutsche Urheberrechtsgesetz enthält Regelungen zum Text und Data Mining, insbesondere § 44b UrhG sowie für wissenschaftliche Forschung § 60d UrhG. Vereinfacht gesagt kann die automatisierte Analyse rechtmäßig zugänglicher Werke unter bestimmten Voraussetzungen zulässig sein. Allerdings bestehen Grenzen, etwa bei wirksamen Nutzungsvorbehalten, unzulässigen Quellen oder Nutzungen, die über die gesetzliche Erlaubnis hinausgehen. Bei wissenschaftlicher Forschung können besondere Privilegierungen eingreifen, deren Reichweite aber an Voraussetzungen gebunden ist.

Datenschutzrechtlich ist die Datenschutz-Grundverordnung maßgeblich, sobald personenbezogene Daten verarbeitet werden. Personenbezogen sind nicht nur Klarnamen, sondern auch Identifikatoren, Bilddaten, Stimmen, Standortdaten, Nutzerprofile oder Kombinationen, die Rückschlüsse auf eine Person ermöglichen. Für Training, Fine-Tuning oder Evaluation braucht es eine Rechtsgrundlage nach Art. 6 DSGVO; bei besonderen Kategorien personenbezogener Daten, etwa Gesundheitsdaten oder biometrischen Daten, kommen erhöhte Anforderungen nach Art. 9 DSGVO hinzu. Außerdem sind Transparenzpflichten, Zweckbindung, Datenminimierung, Speicherbegrenzung und Betroffenenrechte zu beachten.

Das Geschäftsgeheimnisgesetz schützt Informationen, die geheim sind, wirtschaftlichen Wert haben und durch angemessene Geheimhaltungsmaßnahmen geschützt werden. Trainingsdaten aus internen Projekten, Produktentwicklungen, Kundenlisten oder Prozessdokumentationen können darunterfallen. Wird ein solches Material ohne Zustimmung in ein KI-System eingespeist oder an einen Anbieter übermittelt, kann dies arbeitsrechtliche, zivilrechtliche und unter Umständen strafrechtliche Folgen haben.

Vertragliche Vorgaben werden in der Praxis häufig unterschätzt. Nutzungsbedingungen von Plattformen, Datenlizenzverträge, SaaS-Verträge, Auftragsverarbeitungsverträge, Geheimhaltungsvereinbarungen oder Open-Source-Lizenzen können KI-Training ausdrücklich erlauben, beschränken oder verbieten. Ein gesetzlicher Erlaubnistatbestand hilft nicht immer, wenn zusätzlich vertragliche Pflichten verletzt werden. Umgekehrt ersetzt eine Lizenz nicht automatisch die datenschutzrechtliche Rechtsgrundlage gegenüber Betroffenen.

Die KI-Verordnung der Europäischen Union bringt zusätzliche Pflichten für Anbieter und Betreiber bestimmter KI-Systeme. Besonders bei allgemeinen KI-Modellen, Hochrisiko-KI-Systemen und professionellen Einsatzszenarien werden Dokumentations-, Transparenz-, Risikomanagement- und Governance-Pflichten bedeutsam. Welche Anforderungen im Einzelfall gelten, hängt vom System, seiner Funktion, seiner Risikoklasse und der Rolle des Unternehmens ab. Für KI-Trainingsdaten bedeutet dies: Herkunft, Qualität, Repräsentativität, Verzerrungen und rechtliche Zulässigkeit müssen zunehmend nachvollziehbar dokumentiert werden.

KI-Trainingsdaten abgrenzen: Training, Fine-Tuning, Prompting und Scraping

Viele Streitigkeiten entstehen, weil unterschiedliche technische Schritte rechtlich vermischt werden. Für die Prüfung ist aber entscheidend, ob Daten lediglich in eine Eingabezeile geschrieben, dauerhaft gespeichert, in einen Trainingslauf einbezogen oder zur automatisierten Massenauswertung aus Webseiten extrahiert werden. Dieselbe Information kann je nach Verarbeitungsschritt unterschiedliche Rechtsfolgen auslösen.

Training meint meist die grundlegende Modellbildung anhand großer Datenmengen. Fine-Tuning bezeichnet die nachträgliche Anpassung eines bestehenden Modells an bestimmte Aufgaben, Stile oder Fachbereiche. Prompting ist die Eingabe von Informationen zur Erzeugung einer konkreten Antwort, ohne dass diese Informationen zwingend dauerhaft für Modelltraining verwendet werden. Scraping ist die automatisierte Sammlung von Daten, häufig aus Webseiten oder Plattformen. Diese Begriffe überschneiden sich technisch, sollten rechtlich aber getrennt bewertet werden.

Der folgende Überblick zeigt typische Unterschiede. Er ersetzt keine Einzelfallprüfung, hilft aber bei der ersten Einordnung, welche Fragen zuerst gestellt werden sollten: Darf die Quelle genutzt werden? Werden Daten kopiert oder nur abgefragt? Sind personenbezogene Daten enthalten? Gibt es Nutzungsvorbehalte, Plattformbedingungen oder Geheimhaltungspflichten? Und kann später belegt werden, was genau mit den Daten geschehen ist?

Nach der Abgrenzung zeigt sich häufig, dass nicht der Einsatz einer KI als solcher das Hauptproblem ist, sondern die fehlende Trennung der Verarbeitungsschritte. Ein Unternehmen kann etwa berechtigt sein, bestimmte Kundendaten zur Vertragserfüllung zu verarbeiten, aber nicht ohne Weiteres berechtigt sein, dieselben Daten zur Verbesserung eines allgemeinen KI-Modells zu verwenden. Ebenso kann eine Plattformabfrage zulässig sein, während massenhaftes Scraping gegen Nutzungsbedingungen, technische Schutzmaßnahmen oder Datenbankrechte verstößt.

Für eine belastbare Prüfung sollten technische Teams und Rechtsabteilung daher dieselben Begriffe verwenden. Es genügt nicht, pauschal zu dokumentieren, dass „Daten für KI“ genutzt wurden. Aussagekräftig ist erst eine Beschreibung, welche Datentypen aus welchen Quellen zu welchem Zweck in welchem System verarbeitet wurden und ob eine Speicherung, Weitergabe oder Modellanpassung stattgefunden hat.

Typische Fallkonstellationen aus der Praxis

Die rechtlichen Risiken von KI-Trainingsdaten werden besonders deutlich, wenn man typische Alltagssituationen betrachtet. Viele Fälle beginnen nicht mit einer bewussten Rechtsverletzung, sondern mit einem technischen Pilotprojekt, einer unklaren Anbieterfunktion oder einem vermeintlich frei verfügbaren Datensatz. Gerade frühe Projektphasen sind deshalb wichtig, weil spätere Korrekturen an trainierten Modellen deutlich aufwendiger sein können als eine saubere Datenauswahl vor Beginn.

Ein häufiger Fall ist die Nutzung öffentlich zugänglicher Webseiteninhalte. Ein Unternehmen möchte Produktbewertungen, Fachartikel oder Bildmaterial sammeln, um ein Modell für Suchfunktionen, Klassifikation oder Textgenerierung zu trainieren. Öffentlich zugänglich bedeutet jedoch nicht rechtefrei. Texte und Bilder können urheberrechtlich geschützt sein; Datenbanken können durch das Datenbankherstellerrecht geschützt sein; Plattformbedingungen können automatisiertes Auslesen untersagen; personenbezogene Daten können datenschutzrechtliche Informations- und Widerspruchsfragen auslösen. Zusätzlich können maschinenlesbare Nutzungsvorbehalte für Text und Data Mining relevant sein.

Eine zweite Konstellation betrifft interne Unternehmensdaten. Unternehmen verfügen über E-Mails, Ticketsysteme, CRM-Daten, technische Dokumentationen, Verträge, Protokolle und Wissensdatenbanken. Diese Daten sind für KI-Anwendungen wertvoll, weil sie interne Abläufe und Fachwissen abbilden. Rechtlich können sie aber Beschäftigtendaten, Kundendaten, Geschäftsgeheimnisse und vertraglich gebundene Informationen enthalten. Selbst wenn die Daten im Unternehmen rechtmäßig vorhanden sind, heißt das nicht automatisch, dass sie an einen externen KI-Anbieter übertragen oder für ein anderes Modelltraining genutzt werden dürfen.

Ein dritter Fall betrifft Kreative, Agenturen und Medienunternehmen. Ihre Werke können in Trainingsdatensätzen auftauchen, ohne dass sie hiervon unmittelbar erfahren. Rechteinhaber fragen dann, ob eine Unterlassung, Auskunft, Vergütung oder Schadensersatz in Betracht kommt. Die Rechtslage hängt stark davon ab, ob ein gesetzlicher Erlaubnistatbestand eingreift, ob ein wirksamer Nutzungsvorbehalt erklärt wurde, welche Nutzungshandlungen nachweisbar sind und ob konkrete Ausgaben des KI-Systems eine relevante Nähe zum ursprünglichen Werk aufweisen.

Eine vierte Fallgruppe betrifft sensible Daten. Dazu gehören Gesundheitsdaten, biometrische Daten, Daten über politische Meinungen, religiöse Überzeugungen, Gewerkschaftszugehörigkeit oder sexuelle Orientierung. Werden solche Informationen für Training oder Fine-Tuning genutzt, reichen allgemeine Interessenabwägungen regelmäßig nicht aus. Es müssen besondere Rechtsgrundlagen, Schutzmaßnahmen und Dokumentationspflichten geprüft werden. In regulierten Branchen kommen Berufsgeheimnisse, Aufsichtsrecht und branchenspezifische Vorgaben hinzu.

Schließlich entstehen Konflikte bei der Verwendung von Kundendaten durch Softwareanbieter. Manche Anbieter behalten sich in Vertragsbedingungen vor, Eingaben oder Nutzungsdaten zur Produktverbesserung zu verwenden. Ob dies zulässig ist, hängt von Transparenz, Vertragsgestaltung, Datenschutzrollen, Widerspruchsmöglichkeiten und konkreter Datenverarbeitung ab. Kunden sollten nicht allein auf Marketingaussagen vertrauen, sondern technische Einstellungen, Auftragsverarbeitungsverträge und Produktdokumentationen prüfen.

Unternehmen als Anbieter oder Nutzer von KI-Systemen

Unternehmen können bei KI-Trainingsdaten unterschiedliche Rollen einnehmen. Sie können eigene Modelle entwickeln, fremde Modelle nutzen, Daten an Anbieter übermitteln, Datensätze lizenzieren, Schnittstellen bereitstellen oder KI-Funktionen in eigene Produkte integrieren. Jede Rolle hat andere Pflichten. Ein Anbieter eines KI-Systems muss insbesondere die Zulässigkeit und Qualität der Trainingsdaten im Blick behalten. Ein Unternehmen, das ein Drittmodell nutzt, muss prüfen, ob die Nutzung mit Datenschutz, Geheimhaltung, Kundenverträgen und internen Richtlinien vereinbar ist.

Aus Unternehmenssicht beginnt die Prüfung mit einer Dateninventur. Es sollte feststehen, welche Datenquellen genutzt werden, wer sie bereitstellt, welche Rechte daran bestehen und ob personenbezogene oder vertrauliche Informationen enthalten sind. Ohne diese Bestandsaufnahme bleibt unklar, ob ein Modell später rechtssicher eingesetzt, verkauft oder gegenüber Kunden erklärt werden kann. Besonders bei Due-Diligence-Prüfungen, Finanzierungen oder Produktkooperationen werden Nachweise über Datenherkunft und Rechtekette zunehmend bedeutsam.

Unternehmen müssen außerdem zwischen interner Effizienzsteigerung und produktiver Nutzung unterscheiden. Ein interner Test mit anonymisierten Beispieldaten hat andere Risiken als ein KI-Modul, das Kundendaten verarbeitet oder automatisierte Entscheidungen vorbereitet. Sobald Ergebnisse nach außen wirken, etwa in Bewerbungsverfahren, Kreditprozessen, medizinischer Triage, Versicherungsprüfung oder Personalplanung, steigen Anforderungen an Transparenz, Fairness, Genauigkeit und menschliche Kontrolle.

Vertraglich sollten Unternehmen klären, ob der Anbieter Eingaben für eigenes Training verwendet, ob Opt-out-Möglichkeiten bestehen, wo Daten gespeichert werden, ob Unterauftragnehmer eingesetzt werden und ob Daten nach Projektende gelöscht werden. Bei personenbezogenen Daten ist zudem zu prüfen, ob eine Auftragsverarbeitung, gemeinsame Verantwortlichkeit oder eigenständige Verantwortlichkeit vorliegt. Diese Einordnung ist nicht frei wählbar, sondern richtet sich nach tatsächlicher Zweck- und Mittelbestimmung.

Auch Compliance-Prozesse sollten angepasst werden. Eine KI-Richtlinie kann festlegen, welche Daten nicht in öffentliche KI-Tools eingegeben werden dürfen, wann eine Datenschutz-Folgenabschätzung zu prüfen ist, wer neue Datensätze freigibt und wie Trainingsläufe dokumentiert werden. Solche Regeln sind nur wirksam, wenn sie praktisch verständlich sind und technische Teams sie umsetzen können.

Rechteinhaber, Beschäftigte und Betroffene: Welche Ansprüche kommen in Betracht?

Wer vermutet, dass eigene Inhalte oder personenbezogene Daten als KI-Trainingsdaten genutzt wurden, sollte zunächst zwischen verschiedenen Anspruchsrichtungen unterscheiden. Rechteinhaber können urheberrechtliche Ansprüche prüfen lassen. Betroffene Personen können Datenschutzrechte geltend machen. Beschäftigte können zusätzlich arbeitsrechtliche und mitbestimmungsrechtliche Fragen aufwerfen. Geschäftspartner können sich auf Geheimhaltung, Vertragsverstöße oder Schutz von Geschäftsgeheimnissen berufen.

Urheberrechtlich kommen je nach Sachverhalt Auskunft, Unterlassung, Beseitigung, Schadensersatz oder angemessene Vergütung in Betracht. Diese Ansprüche setzen jedoch voraus, dass ein geschütztes Werk betroffen ist, eine relevante Nutzungshandlung vorliegt und keine gesetzliche Erlaubnis oder Lizenz eingreift. Bei KI-Systemen ist der Nachweis oft schwierig, weil Trainingsdaten nicht öffentlich einsehbar sind und Modellantworten nicht zwingend beweisen, dass ein bestimmtes Werk verwendet wurde. Gleichwohl können konkrete Übereinstimmungen, Datensatzfunde, öffentlich bekannte Trainingsquellen oder Anbieterangaben wichtige Indizien sein.

Datenschutzrechtlich haben betroffene Personen unter anderem Rechte auf Auskunft, Berichtigung, Löschung, Einschränkung, Widerspruch und Datenübertragbarkeit, soweit die gesetzlichen Voraussetzungen vorliegen. Bei automatisierten Entscheidungen können zusätzliche Rechte bestehen. In der Praxis ist die Auskunft über KI-Training komplex, weil Verantwortliche häufig nicht ohne Weiteres einzelne Trainingsdaten einer Person zuordnen können. Das entbindet sie jedoch nicht automatisch von Transparenz- und Rechenschaftspflichten. Entscheidend ist, welche Daten verarbeitet wurden und ob eine Identifizierbarkeit noch besteht.

Beschäftigte sollten besonders vorsichtig sein, wenn interne Dokumente, Leistungsdaten, Kommunikationsverläufe oder Bewerbungsunterlagen in KI-Systeme eingespeist werden. Arbeitgeber benötigen hierfür eine tragfähige arbeits- und datenschutzrechtliche Grundlage. Zudem können Betriebsratsrechte berührt sein, wenn technische Einrichtungen Verhalten oder Leistung überwachen können oder Auswahlentscheidungen unterstützt werden.

Für Betroffene ist wichtig, realistische Erwartungen zu haben. Nicht jede KI-Ausgabe begründet automatisch einen Anspruch. Umgekehrt sollten Hinweise auf eine unzulässige Nutzung nicht ignoriert werden. Je früher Quellen, Screenshots, Modellantworten, Zeitpunkte und Anbieterinformationen gesichert werden, desto besser lässt sich später prüfen, ob Rechte tatsächlich verletzt wurden.

Risiken und Haftung bei unzulässigen KI-Trainingsdaten

Die Risiken bei KI-Trainingsdaten betreffen nicht nur Geldforderungen. Sie können zu Unterlassungsansprüchen, Löschungs- oder Nachtrainingsproblemen, aufsichtsbehördlichen Verfahren, Vertragskündigungen, Reputationsschäden und Verzögerungen bei Produktstarts führen. Besonders kritisch wird es, wenn ein Unternehmen ein Modell auf Daten trainiert, deren Herkunft nicht mehr nachvollziehbar ist. Dann lässt sich später oft nicht sicher beurteilen, welche Rechte verletzt wurden und welche Korrektur technisch möglich ist.

Urheberrechtlich kann eine unzulässige Nutzung geschützter Werke Unterlassungs- und Schadensersatzansprüche auslösen. Datenschutzrechtlich drohen Beschwerden bei Aufsichtsbehörden, Anordnungen, Bußgelder und Schadensersatzansprüche betroffener Personen. Bei Geschäftsgeheimnissen können Unterlassung, Vernichtung, Herausgabe, Schadensersatz und weitere Maßnahmen in Betracht kommen. Vertragsrechtlich können Lizenzverstöße, Haftungsfreistellungen, Kündigungsrechte oder Vertragsstrafen relevant werden.

Haftung hängt jedoch stets vom Einzelfall ab. Relevant sind insbesondere Sorgfaltspflichten, Kenntnis, Art der Daten, Schutzmaßnahmen, Rolle des Unternehmens, Vertragslage und Reaktion nach Bekanntwerden eines Problems. Ein Unternehmen, das nachweisbar Datenquellen geprüft, Nutzungsvorbehalte beachtet, personenbezogene Daten minimiert und Verträge sauber gestaltet hat, steht anders da als ein Unternehmen ohne Dokumentation und ohne Freigabeprozess.

Typische Fehler sind insbesondere:

• öffentlich zugängliche Inhalte mit frei nutzbaren Inhalten gleichzusetzen,
• Nutzungsbedingungen, Lizenztexte oder maschinenlesbare Vorbehalte nicht zu prüfen,
• personenbezogene Daten ohne klare Rechtsgrundlage für Training oder Fine-Tuning zu verwenden,
• Kundendaten oder Geschäftsgeheimnisse in externe KI-Tools einzugeben, ohne Anbieterbedingungen und Speicherpraxis zu prüfen,
• Trainingsdaten nachträglich nicht mehr einer Quelle oder Version zuordnen zu können,
• synthetische Daten als risikofrei zu behandeln, obwohl sie aus sensiblen Ausgangsdaten erzeugt wurden,
• keine Lösch-, Sperr- oder Opt-out-Prozesse für beanstandete Daten vorzusehen,
• KI-Ausgaben ungeprüft als rechtlich unproblematisch zu veröffentlichen.

Ein weiteres Haftungsrisiko liegt in der Produktkommunikation. Wer Kunden zusichert, dass ein KI-System ausschließlich mit lizenzierten oder anonymisierten Daten trainiert wurde, muss dies im Zweifel belegen können. Unpräzise Aussagen können vertragsrechtliche Folgen haben und das Vertrauen in ein Produkt beeinträchtigen. Daher sollten technische, rechtliche und vertriebliche Aussagen aufeinander abgestimmt sein.

Fristen, Verjährung, Löschung und Widerspruch

Fristen spielen bei KI-Trainingsdaten auf mehreren Ebenen eine Rolle. Zum einen gelten gesetzliche Verjährungsfristen für Ansprüche. Zum anderen bestehen Fristen für die Beantwortung von Auskunfts- oder Löschungsbegehren. Außerdem können vertragliche Melde-, Rüge- oder Löschfristen einschlägig sein. Wer Ansprüche prüfen oder Risiken begrenzen möchte, sollte Fristen früh dokumentieren, weil spätere Rekonstruktionen häufig schwierig sind.

Zivilrechtliche Ansprüche verjähren in Deutschland grundsätzlich regelmäßig in drei Jahren, beginnend mit dem Schluss des Jahres, in dem der Anspruch entstanden ist und der Anspruchsteller Kenntnis von den anspruchsbegründenden Umständen und der Person des Schuldners erlangt hat oder ohne grobe Fahrlässigkeit hätte erlangen müssen. Im Urheberrecht gibt es Besonderheiten, etwa bei Herausgabeansprüchen oder bereicherungsrechtlichen Konstellationen. Im Datenschutzrecht können Schadensersatzansprüche ebenfalls verjähren; die genaue Einordnung hängt vom Anspruch und nationalem Recht ab. Daher sollte nicht bis zum Jahresende gewartet werden, wenn konkrete Anhaltspunkte vorliegen.

Betroffenenrechte nach der DSGVO unterliegen eigenen Bearbeitungsfristen. Verantwortliche müssen grundsätzlich innerhalb eines Monats auf Auskunfts-, Löschungs- oder Widerspruchsanträge reagieren. Diese Frist kann unter bestimmten Voraussetzungen verlängert werden, etwa bei komplexen Anträgen, muss dann aber begründet mitgeteilt werden. Für Unternehmen bedeutet das: Anfragen zu KI-Trainingsdaten sollten intern schnell an Datenschutz, Recht und technische Verantwortliche weitergeleitet werden.

Bei urheberrechtlichen Nutzungsvorbehalten für Text und Data Mining ist der Zeitpunkt ebenfalls relevant. Rechteinhaber können Nutzungsvorbehalte erklären, müssen aber darauf achten, dass diese wirksam und für maschinelle Auslesevorgänge erkennbar sind, wenn Inhalte online zugänglich sind. Ein später erklärter Vorbehalt kann bereits erfolgte rechtmäßige Nutzungen nicht ohne Weiteres rückwirkend erfassen, kann aber für zukünftige Datenerhebungen bedeutsam sein.

Auch Löschung ist technisch und rechtlich komplex. Das Entfernen einzelner Trainingsdaten aus einem bereits trainierten Modell ist nicht immer mit dem Löschen einer Datei vergleichbar. Je nach System kann ein erneutes Training, ein sogenanntes Unlearning-Verfahren, eine Sperre des Datensatzes oder eine andere technische Maßnahme in Betracht kommen. Rechtlich entscheidend ist, ob die verlangte Maßnahme erforderlich, möglich und verhältnismäßig ist. Unternehmen sollten diese Fragen nicht erst im Streitfall klären.

Beweise und Dokumentation: Was muss nachweisbar sein?

Bei KI-Trainingsdaten entscheidet die Dokumentation häufig darüber, ob ein Anspruch durchsetzbar oder ein Risiko beherrschbar ist. Für Unternehmen gilt die Rechenschaftspflicht: Wer Daten verarbeitet, sollte belegen können, auf welcher Grundlage dies geschieht. Für Rechteinhaber und Betroffene gilt umgekehrt, dass bloße Vermutungen oft nicht ausreichen. Sie müssen Indizien sammeln, aus denen sich eine Nutzung plausibel ableiten lässt.

Technische Komplexität erschwert den Nachweis. Ein KI-Modell speichert Trainingsdaten regelmäßig nicht wie ein Archiv, sondern bildet statistische Muster. Dennoch können Trainingsdaten, Logs, Versionierungen, Datensatzbeschreibungen, Lizenzunterlagen und Modellkarten wichtige Informationen liefern. Bei bestimmten Systemen können auch Ausgaben relevant sein, wenn sie ungewöhnlich starke Übereinstimmungen mit geschützten Inhalten zeigen oder personenbezogene Daten reproduzieren.

Für Unternehmen sind insbesondere folgende Nachweise hilfreich:

• Datensatzbeschreibung mit Quelle, Umfang, Datentypen und Zweck,
• Lizenzverträge, Nutzungsbedingungen, Einwilligungen oder gesetzliche Prüfvermerke,
• Dokumentation von Nutzungsvorbehalten, Opt-outs und ausgeschlossenen Quellen,
• Datenschutzprüfung einschließlich Rechtsgrundlage, Interessenabwägung und Informationspflichten,
• Nachweise zur Anonymisierung, Pseudonymisierung oder Datenminimierung,
• Versionierung von Trainings-, Test- und Validierungsdaten,
• Protokolle über Löschungen, Sperrungen und Korrekturen,
• Verträge mit KI-Anbietern, Auftragsverarbeitern und Unterauftragnehmern,
• Risikobewertungen zu Bias, Qualität, Repräsentativität und sensiblen Daten.

Rechteinhaber und Betroffene sollten ebenfalls strukturiert dokumentieren. Sinnvoll sind Screenshots mit Zeitstempel, URLs, konkrete Prompt-Verläufe, identische Textstellen, Bildähnlichkeiten, Hinweise auf bekannte Datensätze, Korrespondenz mit Anbietern und Nachweise über eigene Rechteinhaberschaft. Bei Werken sollten Originaldateien, Veröffentlichungsdaten und Lizenzhistorien gesichert werden. Bei personenbezogenen Daten sollten Betroffene festhalten, welche Daten betroffen sein könnten und woher der Verdacht stammt.

Eine frühe Beweissicherung ist deshalb wichtig, weil KI-Systeme, Webseiten, Nutzungsbedingungen und Modellversionen sich schnell ändern. Was heute abrufbar ist, kann morgen nicht mehr reproduzierbar sein. Das bedeutet nicht, dass jede Vermutung sofort gerichtlich verfolgt werden sollte. Es spricht aber dafür, relevante Tatsachen geordnet zu sichern, bevor über Auskunft, Abmahnung, Beschwerde oder interne Klärung entschieden wird.

Handlungsschritte für Unternehmen und Betroffene

Die richtige Vorgehensweise hängt davon ab, ob ein Unternehmen KI-Trainingsdaten nutzen möchte oder ob eine Person beziehungsweise ein Rechteinhaber eine unzulässige Nutzung vermutet. In beiden Fällen ist ein strukturiertes Vorgehen sinnvoll. Unkoordinierte Einzelmaßnahmen können Nachweise gefährden, Fristen versäumen oder technische Entscheidungen treffen, die später nur schwer korrigierbar sind.

Für Unternehmen sollte das Ziel sein, eine belastbare Daten- und Rechtekette aufzubauen. Für Betroffene steht zunächst die Sachverhaltsaufklärung im Vordergrund. Beide Perspektiven treffen sich bei der Frage, welche Daten konkret verarbeitet wurden und welche rechtlichen Grundlagen dafür bestehen.

• Datenquellen inventarisieren: Erfassen Sie alle geplanten oder genutzten Quellen, einschließlich Webseiten, interner Systeme, Kundendaten, Drittanbieter-Datensätze und synthetischer Daten.
• Datentypen klassifizieren: Prüfen Sie, ob personenbezogene Daten, besondere Kategorien, urheberrechtlich geschützte Werke, Softwarecode, Datenbankbestandteile oder Geschäftsgeheimnisse enthalten sind.
• Rechtsgrundlagen dokumentieren: Halten Sie fest, ob eine Lizenz, Einwilligung, gesetzliche Erlaubnis, berechtigtes Interesse, Vertragserfüllung oder eine andere Grundlage herangezogen wird.
• Nutzungsvorbehalte und Lizenzen prüfen: Dokumentieren Sie bei Online-Quellen, ob maschinenlesbare Vorbehalte, Plattformbedingungen oder Lizenzbeschränkungen bestehen.
• Fristenkalender einrichten: Notieren Sie Antwortfristen für DSGVO-Anfragen, vertragliche Meldefristen und mögliche Verjährungszeitpunkte, sobald ein Streit oder Verdacht bekannt wird.
• Technische Einstellungen kontrollieren: Prüfen Sie, ob Eingaben an KI-Anbieter für Training verwendet werden, ob Opt-outs aktiviert sind und wo Daten gespeichert werden.
• Vertrauliche Daten sperren: Legen Sie fest, welche Informationen nicht in externe Systeme eingegeben werden dürfen, etwa Geschäftsgeheimnisse, Mandantendaten oder sensible Beschäftigtendaten.
• Beweise sichern: Speichern Sie Screenshots, Prompt-Verläufe, Logs, Datensatzversionen, Vertragsstände und Zeitpunkte nachvollziehbar ab.
• Betroffenenanfragen vorbereiten: Richten Sie interne Prozesse ein, damit Auskunfts-, Löschungs- oder Widerspruchsanträge zu KI-Trainingsdaten fristgerecht beantwortet werden können.
• Risikobewertung durchführen: Bewerten Sie rechtliche, technische und wirtschaftliche Risiken, bevor ein Modell produktiv eingesetzt oder ein Datensatz erweitert wird.
• Verträge anpassen: Regeln Sie Trainingsnutzung, Datenrückgabe, Löschung, Unterauftragnehmer, Haftung und Auditmöglichkeiten ausdrücklich.
• Entscheidungen versionieren: Dokumentieren Sie, wer einen Datensatz freigegeben hat, welche Einschränkungen gelten und wann eine erneute Prüfung erforderlich ist.

Für Betroffene kann ein erster Schritt eine gezielte Auskunftsanfrage sein, wenn ein konkreter Verantwortlicher identifizierbar ist. Rechteinhaber sollten zusätzlich prüfen, ob ein Nutzungsvorbehalt für zukünftiges Text und Data Mining sinnvoll und technisch korrekt umgesetzt ist. Unternehmen sollten bei Beanstandungen nicht vorschnell pauschale Erklärungen abgeben, sondern zunächst intern klären, ob die fraglichen Daten tatsächlich genutzt wurden und welche Systeme betroffen sind.

In Streitfällen kann es angemessen sein, zunächst außergerichtlich Auskunft, Unterlassung oder Löschung zu verlangen. In anderen Fällen ist eine datenschutzrechtliche Beschwerde, eine vertragliche Mängelanzeige oder eine technische Sperrung vorrangig. Welche Maßnahme sinnvoll ist, hängt von Beweislage, Anspruchsziel, Kostenrisiko und Dringlichkeit ab.

Besondere Fragen bei Lizenzen, Open Data und synthetischen Daten

Lizenzen sind bei KI-Trainingsdaten hilfreich, aber nicht automatisch abschließend. Eine Datenlizenz kann bestimmte Nutzungen erlauben, andere aber ausschließen. Häufige Beschränkungen betreffen kommerzielle Nutzung, Weitergabe, Veränderung, Namensnennung, Share-alike-Pflichten, Export, personenbezogene Daten oder den Einsatz für maschinelles Lernen. Wer Datensätze einkauft oder aus Open-Data-Portalen bezieht, sollte daher nicht nur den Titel der Lizenz prüfen, sondern die konkrete Reichweite.

Open Data bedeutet nicht, dass alle rechtlichen Risiken entfallen. Öffentliche Datensätze können personenbezogene Daten enthalten oder mit anderen Informationen re-identifizierbar werden. Auch können Behörden- oder Forschungsdaten besonderen Nutzungsbedingungen unterliegen. Bei internationalen Datensätzen stellt sich zusätzlich die Frage, welches Recht anwendbar ist und ob Datenübermittlungen in Drittländer stattfinden.

Open-Source-Software und Trainingsdaten aus Code-Repositories werfen eigene Fragen auf. Softwarecode ist urheberrechtlich geschützt; Open-Source-Lizenzen können Pflichten zur Namensnennung, Lizenzweitergabe oder Offenlegung abgeleiteter Werke enthalten. Ob und in welchem Umfang KI-Training mit Code eine lizenzrelevante Nutzung darstellt, ist im Detail umstritten und stark vom Sachverhalt abhängig. Unternehmen sollten hier besonders sorgfältig dokumentieren, welche Repositories, Lizenzen und Filter eingesetzt wurden.

Synthetische Daten werden häufig als Lösung für Datenschutz- und Lizenzprobleme dargestellt. Das kann im Einzelfall zutreffen, wenn synthetische Daten tatsächlich keine Rückschlüsse auf einzelne Personen oder geschützte Ausgangsdaten zulassen. Es ist aber kein Automatismus. Wenn synthetische Daten aus realen Datensätzen erzeugt werden, können Risiken fortbestehen, etwa durch Re-Identifizierung, Musterübernahme, Bias oder die Rekonstruktion seltener Fälle. Deshalb sollte auch bei synthetischen Daten dokumentiert werden, aus welchen Quellen sie erzeugt wurden, welche Schutzmaßnahmen angewendet wurden und welche Tests zur Re-Identifizierbarkeit durchgeführt wurden.

FAQ zu KI-Trainingsdaten

Fazit: KI-Trainingsdaten rechtlich sauber einordnen

KI-Trainingsdaten erfordern eine Prüfung, die technische Abläufe und rechtliche Anforderungen zusammenführt. Vorrangig sind Datenherkunft, Rechtekette, personenbezogene Daten, Nutzungsvorbehalte, Vertraulichkeit und Dokumentation zu klären. Unternehmen sollten vor dem Training oder Fine-Tuning Datenquellen inventarisieren, Rechtsgrundlagen festhalten, Anbieterbedingungen prüfen und Prozesse für Auskunft, Löschung und Beanstandungen einrichten. Rechteinhaber und Betroffene sollten Hinweise früh sichern und ihre Anspruchsziele realistisch bestimmen.

Ob eine Nutzung zulässig ist oder Ansprüche bestehen, hängt stets vom konkreten Datensatz, Zweck, System und Nachweis ab. Pauschale Aussagen helfen selten weiter. Wer KI-Trainingsdaten strategisch nutzen oder beanstanden möchte, sollte deshalb nicht nur die sichtbare KI-Ausgabe betrachten, sondern die gesamte Datenverarbeitungskette rechtlich und technisch nachvollziehbar machen.