Generative Künstliche Intelligenz verändert grundlegend die Art und Weise, wie Inhalte erstellt werden — Texte, Bilder, Audio, Video. Millionen von Nutzern verwenden täglich KI-Tools zur Generierung von Inhalten, die anschließend veröffentlicht, verbreitet und in geschäftlichen wie privaten Kontexten genutzt werden. Hinter dieser technologischen Revolution stehen jedoch eine Reihe ungelöster Rechtsfragen: Wer haftet, wenn KI-generierter Inhalt einen Schaden verursacht?
Dieser Text hat informativen Charakter und ersetzt keine individuelle Rechtsberatung.
Warum ist die Haftung für KI-Inhalte rechtlich komplex?
Der traditionelle Rechtsrahmen für Haftung setzt einen klar definierten Akteur voraus: den Autor, den Verleger, den Redakteur. Ein KI-System entspricht keiner dieser Kategorien. Es ist keine juristische Person, besitzt keine Rechtsfähigkeit und kann nicht verklagt werden. Der Schaden, der durch KI-generierten Inhalt entsteht, muss einem der Beteiligten in der Kette zugerechnet werden: dem Entwickler, der das Modell entwickelt hat, dem Unternehmen, das es kommerzialisiert hat, dem Betreiber, der es in seine Dienstleistung integriert hat, oder dem Endnutzer, der den Inhalt verwendet und veröffentlicht hat.
Gerade diese Diffusion der Haftung — ihre Verteilung entlang der technischen und geschäftlichen Wertschöpfungskette — macht diesen Bereich zu einem der dynamischsten im modernen Technologierecht.
Urheberrechte an KI-generierten Inhalten
Die Frage, wer Urheber von KI-generierten Inhalten ist, beeinflusst unmittelbar, wer die Rechte an diesen Inhalten innehat und wer haftet, wenn diese Inhalte Rechte Dritter verletzen.
Nach dem geltenden Rechtsrahmen in der EU und in Serbien können Urheberrechtsinhaber ausschließlich natürliche Personen sein — nur ein Mensch kann Urheber sein. Ein KI-System kann im Rechtssinne kein Urheber sein. Das bedeutet, dass Inhalte, die ausschließlich von einer KI generiert wurden, ohne einen kreativen Beitrag eines Menschen, (theoretisch) gemeinfrei sind oder keinen urheberrechtlichen Schutz genießen.
Allerdings führt der EU AI Act (EU-KI-Verordnung, Verordnung (EU) 2024/1689, in Kraft seit dem 1. August 2024, mit schrittweiser Anwendung der Bestimmungen) eine Transparenzpflicht ein: KI-generierte Inhalte müssen als solche gekennzeichnet werden, insbesondere im Bereich von Deepfakes und synthetischen audiovisuellen Inhalten. Ein Verstoß gegen diese Pflicht stärkt die Grundlage für die rechtliche Haftung des Betreibers.
Andererseits besteht ein Haftungsrisiko für Urheberrechtsverletzungen, wenn ein KI-Modell während des Trainings geschützte Werke ohne entsprechende Lizenz verwendet — und zwar nicht das KI-System selbst, sondern das Unternehmen, das das Modell entwickelt hat. Dies ist Gegenstand zahlreicher laufender Verfahren in den USA und in der EU.
Desinformation, Verleumdung und durch KI generierte Falschaussagen
Sprachmodelle generieren mitunter faktisch unzutreffende Inhalte — im Fachjargon als „Halluzinationen” bekannt. Wenn solche Inhalte unwahre Behauptungen über eine reale Person oder ein Unternehmen aufstellen, kann es sich um diffamierenden Inhalt handeln.
Wie ist die Rechtslage? Die Haftung für durch KI generierte verleumderische Behauptungen trifft nach geltendem Recht den Nutzer, der solche Inhalte veröffentlicht hat, denn die Veröffentlichung — unabhängig von der Quelle — bleibt ein Akt des Nutzers. Der Betreiber eines KI-Dienstes kann ebenfalls haften, wenn ihm bekannt war, dass das System solche Inhalte generiert, und er keine zumutbaren Gegenmaßnahmen ergriffen hat.
Das Gesetz über digitale Dienste (Digital Services Act — DSA, Verordnung (EU) 2022/2065) legt den allgemeinen Rahmen für die Haftung von Plattformen für nutzergenerierte Inhalte fest — einschließlich Inhalten, die Nutzer mithilfe von KI-Tools generiert haben. Plattformen müssen Mechanismen zur Meldung und Entfernung rechtswidriger Inhalte bereitstellen.
EU AI Act und Haftung in der Wertschöpfungskette
Der EU AI Act führt eine ausdrückliche Verteilung von Pflichten nach der Rolle der jeweiligen Akteure ein:
Anbieter (Entwickler) von KI-Modellen allgemeiner Zweckbestimmung (GPAI — General-Purpose AI): Sie müssen die Trainingsdaten dokumentieren und Urheberrechte einhalten; für Modelle mit systemischem Risiko gelten besondere Pflichten zur Evaluierung und zu Sicherheitsprotokollen.
Anbieter von Hochrisiko-KI-Systemen: Sie tragen die größte Pflichtenlast — Registrierung des Systems, technische Dokumentation, Mechanismen zur menschlichen Aufsicht (Human Oversight), Risikomanagement und Marktüberwachung nach dem Inverkehrbringen.
Betreiber: Unternehmen, die KI-Systeme in ihre Dienste integrieren, haften für die ordnungsgemäße Anwendung des Systems im jeweiligen Kontext und müssen geeignete Kontrollmaßnahmen implementieren.
Nutzer: Endnutzer, die Inhalte generieren und veröffentlichen, tragen die Verantwortung für die Nutzung in Übereinstimmung mit den Weisungen des Anbieters und des Betreibers.
Diese Haftungspyramide bedeutet, dass ein Unternehmen, das ChatGPT, Claude oder ein ähnliches Modell in einen Geschäftsprozess integriert, nicht von der Haftung befreit ist — es ist Betreiber und muss die Grenzen des von ihm verwendeten Systems verstehen.
Haftung für KI-Inhalte im geschäftlichen Kontext
Ein besonders sensibles Gebiet ist der Einsatz von KI in der Geschäftskommunikation, in Rechtsdokumenten, medizinischen Empfehlungen oder Finanzberatungen. Wenn ein KI-System eine fehlerhafte Rechtsanalyse oder eine unzutreffende medizinische Information generiert, die anschließend angewendet wird und einen Schaden verursacht, wird die Haftungsfrage unmittelbar und potenziell sehr kostspielig.
Unternehmen, die KI in solchen Kontexten einsetzen, müssen über eine klare Nutzungsrichtlinie verfügen: Wer ist für die Überprüfung von KI-generierten Inhalten vor deren Anwendung verantwortlich, wie wird der KI-Einsatz in Entscheidungsprozessen dokumentiert, und ob Kunden oder Nutzer über die Rolle der KI im jeweiligen Prozess informiert werden.
Das Fehlen einer solchen Richtlinie befreit das Unternehmen nicht von der Haftung — im Gegenteil, es kann als Verstoß gegen die Sorgfaltspflicht gewertet werden.
Häufige Fragen (Q&A)
Wenn ich ein KI-Tool verwende und der generierte Inhalt das Urheberrecht einer anderen Person verletzt, bin ich dann dafür haftbar? Grundsätzlich ja — der Nutzer, der Inhalte veröffentlicht, trägt die primäre Haftung. Die Haftung kann mit dem Dienstbetreiber geteilt werden, wenn der Dienst so gestaltet war, dass er systematisch Rechte Dritter verletzt; dies ist jedoch schwerer nachzuweisen. Die Nutzungsbedingungen von KI-Diensten enthalten häufig Freistellungsklauseln (Indemnification Clauses), die die Verteilung dieser Haftung zwischen Dienst und Nutzer regeln.
Ist „die KI hat es generiert, nicht ich” eine wirksame Haftungsverteidigung? Nach geltendem Recht nicht in ausreichendem Maße. Die Veröffentlichung von Inhalten ist ein Akt des Nutzers, unabhängig von dem Werkzeug, das bei der Erstellung verwendet wurde. Eine Verteidigung auf der Grundlage fehlender Absicht oder Unkenntnis ist möglich; ihr Erfolg hängt jedoch von den konkreten Umständen und der anwendbaren Rechtsordnung ab.
Was ist mit Deepfake-Inhalten, die das Bildnis anderer Personen verwenden? Deepfake-Inhalte, die reale Personen in fiktiven Szenarien darstellen — insbesondere in sexuell expliziten oder politisch manipulativen Kontexten — unterliegen der Haftung wegen Verletzung des Persönlichkeitsrechts. Der EU AI Act schreibt für solche Inhalte eine eindeutige Kennzeichnung als künstlich generiert vor; Praktiken, die ein inakzeptables Risiko darstellen — schädliche KI-Manipulation und Täuschung, die auf eine wesentliche Verfälschung des Verhaltens mit erheblicher Schadensverursachung abzielt — zählen zu den verbotenen KI-Praktiken. Die Erstellung und Verbreitung solcher Inhalte setzt den Handelnden einer zivilrechtlichen und potenziell strafrechtlichen Haftung aus.
Sollte in Verträgen mit Kunden der Einsatz von KI bei der Erbringung von Dienstleistungen geregelt werden? Wenn KI in Prozessen eingesetzt wird, die Kunden betreffen, stellt eine transparente Offenlegung in den Nutzungsbedingungen und/oder in besonderen Vertragsklauseln einen ethischen Standard dar — und wird zunehmend auch zur gesetzlichen Pflicht.
Fazit
Die rechtliche Haftung für KI-generierten Inhalt befindet sich in einem Prozess der Herausbildung durch Regulierung und Rechtsprechung. Was bereits jetzt feststeht: Die Haftung verschwindet nicht, nur weil ein Algorithmus den Inhalt erstellt hat — sie verlagert und verteilt sich entlang der Kette vom Entwickler bis zum Endnutzer.
Unternehmen, die proaktiv eine interne Richtlinie für den Einsatz generativer KI einführen — mit klaren Verantwortlichkeiten, Verifizierungsmechanismen und Transparenz gegenüber Nutzern — haben ein wesentlich geringeres Rechtsrisiko als jene, die diese Entwicklung ignorieren.
Vereinbaren Sie eine Beratung und erfahren Sie, wie Sie Ihr Unternehmen für einen sicheren und verantwortungsvollen Einsatz von KI-Tools positionieren können.
Quellen: – https://www.wipo.int/about-ip/en/artificial_intelligence/policy.html – https://digital-strategy.ec.europa.eu/en/policies/liability-artificial-intelligence – https://www.brookings.edu/articles/liability-for-ai-generated-content-whos-to-blame/ – https://eur-lex.europa.eu/eli/reg/2024/1689/oj (Verordnung (EU) 2024/1689 — AI Act) – https://eur-lex.europa.eu/eli/reg/2022/2065/oj (Verordnung (EU) 2022/2065 — DSA)
