Rechtliches rund um Künstliche Intelligenz
Was du bei der Nutzung von KI-Tools wissen musst – von DSGVO über Urheberrecht bis zur EU KI-Verordnung. Kompakt, verständlich und praxisnah.
DSGVO & Datenschutz bei KI-Nutzung
Die Datenschutz-Grundverordnung gilt auch für KI-Anwendungen. Hier erfährst du, worauf du achten musst, wenn du KI-Tools nutzt oder anbietest.
📝 Was bei der KI-Nutzung beachtet werden muss
Sobald du personenbezogene Daten in KI-Systeme eingibst, greift die DSGVO. Das betrifft Namen, E-Mail-Adressen, aber auch Fotos oder Stimmen von Personen.
- Datenschutzerklärung aktualisieren: Informiere über den Einsatz von KI-Tools und welche Daten verarbeitet werden.
- Auftragsverarbeitungsvertrag (AVV): Prüfe, ob der KI-Anbieter einen AVV anbietet und schließe diesen ab.
- Drittlandtransfer beachten: Bei US-Anbietern wie OpenAI ist die Datenübertragung in die USA relevant.
- Keine sensiblen Daten eingeben: Vermeide die Eingabe von Gesundheitsdaten, religiösen Überzeugungen etc.
- Opt-out für Training prüfen: Viele Anbieter nutzen Eingaben fürs Training – deaktiviere dies wenn möglich.
Vorsicht bei Kundendaten
Gib niemals unverschlüsselte Kundendaten in öffentliche KI-Tools ein. Nutze stattdessen Enterprise-Versionen mit entsprechenden Datenschutzgarantien oder anonymisiere die Daten vorher.
Urheberrecht bei KI-generierten Inhalten
Wem gehören KI-generierte Texte, Bilder oder Musik? Die rechtliche Lage ist komplex und noch nicht abschließend geklärt.
KI-generierte Texte
Nach deutschem Recht sind nur von Menschen geschaffene Werke urheberrechtlich schutzfähig. Reine KI-Outputs sind daher vermutlich nicht geschützt – können aber frei genutzt werden.
KI-generierte Bilder
Ähnlich wie bei Texten: Der reine KI-Output ist wahrscheinlich gemeinfrei. Aber Vorsicht: Die KI könnte urheberrechtlich geschütztes Material im Training verwendet haben.
KI-generierte Musik
Auch hier gilt: Kein Urheberrechtsschutz für reine KI-Kreationen. Bei Nachahmung bekannter Künstler können aber Persönlichkeitsrechte verletzt werden.
KI-generierter Code
Code-Generatoren wie GitHub Copilot wurden mit Open-Source-Code trainiert. Prüfe die Lizenzkompatibilität, bevor du generierten Code kommerziell nutzt.
✅ Checkliste für rechtssichere Nutzung
- Nutzungsbedingungen lesen: Jeder KI-Anbieter hat andere Regeln zur kommerziellen Nutzung.
- Keine geschützten Werke als Input: Lade keine urheberrechtlich geschützten Texte oder Bilder hoch.
- Outputs prüfen: Kontrolliere KI-Ergebnisse auf mögliche Ähnlichkeiten mit geschützten Werken.
- Dokumentation: Halte fest, wie und wann du KI-Inhalte erstellt hast.
Kennzeichnungspflichten für KI-Inhalte
Muss ich KI-generierte Inhalte kennzeichnen? Die Antwort hängt vom Kontext und den kommenden EU-Regelungen ab.
📢 Aktuelle Kennzeichnungspflichten
Derzeit gibt es in Deutschland keine generelle Pflicht zur Kennzeichnung von KI-Inhalten. Allerdings können sich Pflichten aus anderen Gesetzen ergeben:
- Wettbewerbsrecht: Irreführende Werbung ist verboten – auch mit KI erstellte.
- Medienrecht: Journalistische Inhalte sollten transparent über KI-Nutzung informieren.
- Plattform-Richtlinien: Viele Plattformen verlangen eine KI-Kennzeichnung in ihren AGBs.
- EU KI-Verordnung: Ab 2026 gelten neue Transparenzpflichten für bestimmte KI-Systeme.
Unsere Empfehlung
Auch ohne rechtliche Pflicht empfehlen wir, KI-Unterstützung transparent zu kommunizieren. Das schafft Vertrauen und bereitet dich auf kommende Regelungen vor.
KI-Nutzung im Unternehmen
Unternehmen müssen bei der KI-Nutzung besondere Sorgfalt walten lassen. Hier findest du die wichtigsten Punkte für den rechtssicheren Einsatz.
📋 Checkliste für Unternehmen
- KI-Richtlinie erstellen: Definiere klare Regeln für Mitarbeiter zur KI-Nutzung.
- Schulungen durchführen: Sensibilisiere dein Team für Datenschutz und Urheberrecht.
- Genehmigte Tools definieren: Liste auf, welche KI-Tools verwendet werden dürfen.
- Enterprise-Versionen nutzen: Diese bieten bessere Datenschutzgarantien.
- Verträge prüfen: AVVs, Nutzungsbedingungen und Lizenzen checken.
- Betriebsrat einbinden: Bei der Einführung von KI-Systemen ist oft Mitbestimmung erforderlich.
- Qualitätskontrolle: KI-Outputs vor Veröffentlichung immer prüfen.
- Dokumentation: Halte fest, wofür und wie KI eingesetzt wird.
Haftung bei KI-Fehlern
Das Unternehmen haftet für Schäden durch fehlerhafte KI-Outputs. Stelle sicher, dass kritische Entscheidungen immer von Menschen überprüft werden (Human-in-the-Loop).
EU KI-Verordnung (AI Act)
Der EU AI Act ist das weltweit erste umfassende KI-Gesetz und wird schrittweise bis 2026 in Kraft treten. Er klassifiziert KI-Systeme nach Risikostufen.
Minimales Risiko
Chatbots, Spam-Filter, KI-Spiele. Kaum Auflagen, freie Nutzung möglich.
Begrenztes Risiko
Deepfakes, Chatbots. Transparenzpflichten erforderlich.
Hohes Risiko
KI in Bewerbungen, Medizin, Justiz. Strenge Auflagen und Zertifizierung.
Unzulässig
Social Scoring, Massenüberwachung, manipulative KI. Komplett verboten.
Häufige Fragen
Antworten auf die wichtigsten rechtlichen Fragen rund um KI
Darf ich KI-generierte Texte kommerziell nutzen?
+Grundsätzlich ja, aber prüfe die Nutzungsbedingungen des jeweiligen KI-Anbieters. Die meisten erlauben kommerzielle Nutzung, einige haben aber Einschränkungen. Da KI-Texte vermutlich nicht urheberrechtlich geschützt sind, kannst du sie frei verwenden – trage aber die Verantwortung für den Inhalt.
Muss ich KI-generierte Inhalte kennzeichnen?
+Aktuell gibt es keine generelle Kennzeichnungspflicht in Deutschland. Ab 2026 verlangt die EU KI-Verordnung aber Transparenz bei bestimmten KI-Anwendungen wie Deepfakes oder Chatbots. Einige Plattformen verlangen schon jetzt eine Kennzeichnung. Wir empfehlen freiwillige Transparenz.
Ist die Nutzung von ChatGPT DSGVO-konform?
+Die DSGVO-Konformität hängt von der Nutzungsweise ab. Für Unternehmen empfiehlt sich ChatGPT Enterprise oder die API mit entsprechendem Auftragsverarbeitungsvertrag. Gib keine personenbezogenen Daten in die kostenlose Version ein und informiere in deiner Datenschutzerklärung über die Nutzung.
Wem gehören die Rechte an KI-generierten Bildern?
+Nach deutschem Recht sind nur menschliche Schöpfungen urheberrechtlich geschützt. Reine KI-Bilder haben daher vermutlich keinen Urheberrechtsschutz. Die Nutzungsrechte regelt der jeweilige Anbieter in seinen AGBs. Midjourney und DALL-E erlauben beispielsweise kommerzielle Nutzung, aber prüfe immer die aktuellen Bedingungen.
Was ändert sich durch die EU KI-Verordnung?
+Der EU AI Act bringt ab 2024-2026 schrittweise neue Regeln: Verbote für bestimmte KI-Anwendungen, strenge Auflagen für Hochrisiko-KI, Transparenzpflichten für Chatbots und Deepfakes, sowie Dokumentationspflichten für Anbieter. Die meisten einfachen KI-Tools fallen unter “minimales Risiko” und sind kaum betroffen.
Hafte ich für Fehler in KI-generierten Inhalten?
+Ja, du trägst die Verantwortung für veröffentlichte Inhalte – unabhängig davon, ob eine KI sie erstellt hat. Prüfe KI-Outputs immer auf Richtigkeit, Urheberrechtsverletzungen und rechtliche Probleme. Bei falschen Informationen, Beleidigungen oder Urheberrechtsverletzungen kannst du haftbar gemacht werden.
Mehr rechtliche Artikel im Ratgeber
Vertiefe dein Wissen mit unseren ausführlichen Artikeln zu DSGVO, Urheberrecht, EU AI Act und mehr.
Zum Ratgeber: Rechtliches →