Rechtsfragen beim Einsatz künstlicher Intelligenz (KI)

Künstliche Intelligenz (KI), Deep Learning, Machine Learning („selbstlernende Systeme“), KI-basierte Chatbots (wie ChatGPT), KI-Bildgeneratoren und große Sprachmodelle (sog. Large Language Models, LLM – wie bspw. Llama2 von Meta oder OpenSource-Alternativen) sind in der Praxis von Unternehmen jeder Größe äußerst beliebt und nicht mehr wegzudenken. Durch den Einsatz von KI lassen sich Prozesse optimieren und die Effizienz des Unternehmens weiter verbessern. Ob Banken, Versicherungen, Automobilbranche, Luftfahrt, Medienbranche, IT-Dienstleister, im Recruiting oder in der Gesundheitsbranche: die Einsatzmöglichkeiten von KI sind in jedem Wirtschaftssektor-Sektor äußerst vielseitig.

Mit dem Einsatz von KI sind zugleich aber auch zahlreiche Rechtsfragen und rechtliche Risiken verbunden. Sie können quasi jedes Rechtsgebiet betreffen. Den folgenden Überblick dieser Rechtsfragen und Risiken hat unsere DFA-Praxisgruppe „Informationstechnologie“ zur besseren Veranschaulichung zugleich anhand typischer Fragen zusammengestellt, die sich einem Unternehmen erfahrungsgemäß stellen, das KI einsetzen möchte.

1. Definition von "KI" und Terminologie in Verträgen

Erste Herausforderungen sind bereits mit der grundlegenden Frage nach der Definition des Begriffs „Künstliche Intelligenz“ verbunden:

• Was ist überhaupt KI? Und was nicht?

• Gibt es rechtliche Definitionen von KI, auf die in Verträgen zurückgegriffen werden kann?

Gerade in Verträgen über KI-Applikationen ist es sehr wichtig, dass die richtige Terminologie auf Basis gängiger und anerkannter Definitionen verwendet wird. Wir unterstützen unsere Mandanten insoweit vor allem bei der Erstellung und Verhandlung von KI-Verträgen (sowohl mit KI-Anbietern als auch mit Endnutzern, denen die KI zur Nutzung bereitgestellt wird) sowie bei der Verwendung der richtigen begrifflichen Terminologie.

2. Lizenzbedingungen für KI-Software

Bei dem Einsatz von KI-Software stellen sich im Zusammenhang mit den KI-Verträgen des jeweiligen Herstellers (also den Lizenzbedingungen für KI-Software) aber typischerweise auch zahlreiche Fragen im Lizenz- und Vertriebsrecht. Aus Sicht eines Unternehmens, das KI einsetzen will, sehen diese Fragestellungen erfahrungsgemäß wie folgt aus:

• In welchem Umfang darf ich die KI zeitlich und räumlich einsetzen? Ist die Nutzung z.B. auf ein bestimmtes Territorium beschränkt (z.B. Deutschland, D-A-CH oder EMEA)?

• Welche Regelungen des End-User-Licence-Agreements (EULA) oder einer anderen Lizenzvereinbarung muss ich an meine Kunden weiterreichen, z.B. wenn ich einen KI-basierten Chatbot auf meiner Webseite einsetze?

• Ist ein Reselling der KI-Software möglich, ggf. in Verbindung mit meinen eigenen Produkten (Software/Hardware)? Was habe ich in diesem Zusammenhang zu beachten?

Wir analysieren für unsere Mandanten die Verträge des jeweiligen KI-Anbieters und unterstützen auch zu diesen Themen in den Verhandlungen mit dem Anbieter.

3. Verträge über spezielle KI-Hardware (z.B. Graphical Processing Units, GPUs) 

Im Unterschied zur klassischen Rechenleistung auf Basis von herkömmlichen CPUs eignen sich GPUs (Graphical Processing Units) vor allem bei den rechenintensiven Operationen und Algorithmen im Bereich KI, Deep Learning und Machine Learning. Denn die parallelisierte Arbeitsweise von GPUs erleichtert es, zahlreiche Berechnungen gleichzeitig durchzuführen.

Der Kauf bzw. die Miete von GPU-basierter Hardware spezialisierter Anbieter kommt für ein Unternehmen vor allem dann in Betracht, wenn für eine KI-Applikation auch zusätzliche Hardware benötigt wird. Rechtsfragen stellen sich dann im Zusammenhang mit dem Erwerb von Hardware bzw. deren Überlassung auf Zeit (insb. Miete):

• Sind die Leistungsbeschreibungen der Hardware bzw. die Regelungen zur Nutzung der GPUs in den Verträgen ausreichend?

• Gibt es ein Service Level Agreement bei der Überlassung auf Zeit? Sichert der Anbieter darin bestimmte Verfügbarkeitszeiten, Reaktionszeiten und Wiederherstellungszeiten zu?

• Ist die Wartung der Hardware ausreichend geregelt?

• Ist bei der Nutzung von Ressourcen im Rechenzentrums eines Hardware-Providers der Datenschutz nach der DSGVO sichergestellt?

4. Verantwortung und Haftung für den KI-Betrieb

Ein zentrales rechtliches Thema ist zudem natürlich die Verantwortung und Haftung für den KI-Betrieb, insbesondere wenn eine KI-Entscheidung einmal zu Schäden bei einem Kunden oder einem Dritten führen sollte. Wer trägt also die Verantwortung, wenn z.B.:

• ein autonomes System (wie ein selbstfahrendes Autos oder eine autonome Drohne) in einen Unfall verwickelt ist?

• KI-basiert Entscheidungen getroffen werden (z.B. Vorauswahl von Bewerbern im Recruiting)?

• KI-basiert Bilder und Texte (wie durch ChatGPT) generiert werden?

• KI-basierte Texte Fehler enthalten?

• die Entscheidungsgrundlage einer KI intransparent ist bzw. nur schwer nachzuvollziehen ist und sich daher nicht eindeutig zuordnen lässt?

• Ist es überhaupt erforderlich, dass die Entscheidungsgrundlage einer KI transparent und nachvollziehbar ist?

Für diesen und andere Fälle sind nicht nur vertragliche Haftungsregelungen zu entwickeln. Es sind zudem auch die Tätigkeiten und Interessen der Entwickler, Betreiber und Eigentümer der der KI zugrundeliegenden IT-Infrastruktur (z.B. Anbieter spezieller KI-Infrastruktur in Rechenzentren, insbesondere mit entsprechender Rechenleistung in Grafikkarten) entsprechend berücksichtigen.

5. Urheberrechte und geistiges Eigentum

Im Kontext der Urheberrechte und des geistigen Eigentums stellen sich Rechtsfragen vor allem in Bezug auf die Urheberrechte an Texten, auf die eine KI zurückgreift, sowie die (Nutzungs-)Rechte an KI-generierten Texten (wie z.B. von ChatGPT), Fotos und anderen Werken. Dies betrifft also v.a. die folgenden Fragen:

• Kann ich KI-generierte Texte in E-Mails, Marketing-Unterlagen, auf Webseiten oder in Podcasts verwenden?

• Wie sieht es mit KI-generierten Bildern und Videos aus?

6. Datenschutz und Datensicherheit

Im Bereich von Datenschutz und Datensicherheit ist im KI-Umfeld insbesondere zu berücksichtigen, dass die einer KI zugrundeliegenden IT-Systeme oft große Mengen an personenbezogenen Daten verarbeiten. Es ist daher sicherzustellen, dass diese Daten durch technische und organisatorische Maßnahmen angemessen geschützt sind und durch eine passende datenschutzrechtliche Ausgestaltung die Rechte betroffener Personen gewahrt bleiben. Darüber hinaus ist auch der Schutz der KI-IT-Systeme vor Missbrauch und Cyberangriffen zu berücksichtigen. Typische Fragen in diesem Zusammenhang sind:

• Ist die KI-Nutzung DSGVO-konform?

• Ist die KI-Nutzung überhaupt noch Auftragsverarbeitung?

• Was habe ich im Rahmen der technischen und organisatorischen Maßnahmen (sog. TOMs) beim Einsatz von KI zusätzlich zu berücksichtigen?

7. Regulierung von autonomen Systemen

Die Regulierung von autonomen Systemen (wie selbstfahrende Autos oder autonome Drohnen) ist sowohl in der EU als auch in zahlreichen Ländern auf der ganzen Welt ein lebhaft diskutiertes Thema. Unternehmen, die KI-Software entwickeln bzw. verfügbare KI-Applikationen einsetzen wollen, müssen hier die aktuellen Entwicklungen „auf dem Radarschirm“ haben:

• Welche aktuellen Entwicklungen den nationalen und internationalen Rechts sowie des EU-Rechts (z.B. der „AI Act“) sind für mein Unternehmen bzw. für mein KI-Vorhaben von Bedeutung?

• Sind darüber hinaus ggf. weitere ethische und moralische Richtlinien bei der Entwicklung und Anwendung von KI-Systemen zu beachten?

8. Arbeitsrecht

Rechtsfragen in Zusammenhang mit dem Einsatz von KI können sich aber auch beispielsweise im Arbeitsrecht wiederfinden. So können durch den Einsatz von KI Arbeitsplätze automatisiert werden und entfallen. Zugleich kann der Einsatz von KI aber auch positive Auswirkungen haben und die Arbeitsbedingungen und den Schutz der Arbeitnehmer insgesamt verbessern. Rechtsfragen können sich aber auch dahingehend stellen, ob beispielsweise der Betriebsrat vor dem Einsatz von KI einzubinden ist.

9. Fragen des internationalen Rechts

In technischer Hinsicht macht der Einsatz von KI an den nationalen Grenzen meist keinen Halt. Es stellen sich daher bei grenzüberschreitenden Einsatzszenarien und KI-Software-Lizenzen vor allem auch verschiedene Fragen des internationalen Rechts, insbesondere in den Bereichen des internationalen Wirtschaftsrechts sowie des internationalen Vertrags-, Software-, Datenschutz- und Urheberrechts.

Unsere Experten von DFA unterstützen unsere Mandanten auch zu Themen des internationalen Rechts bei dem Einsatz von KI.

Dieser Beitrag wird fortlaufend aktualisiert.
Stand: 30.12.2023 / Dr. Thorsten Hennrich

Dr. Thorsten Hennrich

Fachanwalt für IT-Recht

Standort Frankfurt