Blog

Jul 10, 2023

Die rechtlichen Probleme, die generative KI mit sich bringt

4 Fragen, die Sie stellen sollten, bevor Sie menschliche Arbeitskraft gegen KI austauschen. Führungseinblicke für Innovationen inmitten von Veränderungen. Warum das Lernen, Nein zu sagen, für diesen Gründer die wichtigste Lektion ist. Bildnachweis: Rob Dobi Ideas

4 Fragen, die Sie stellen sollten, bevor Sie menschliche Arbeitskraft gegen KI austauschen

Führungseinblicke für Innovationen inmitten von Veränderungen

Warum das Lernen, Nein zu sagen, für diesen Gründer die wichtigste Lektion ist

Bildnachweis: Rob Dobi

Ideen, die zur Tat werden

Künstliche Intelligenz

Von

Dylan Walsh

28. August 2023

Generative künstliche Intelligenz wirft neue rechtliche Fragen zur Datennutzung und zur Regulierung von Inhalten auf. Ein Anwaltspartner bietet Beratung.

Generative künstliche Intelligenz, einschließlich großer Sprachmodelle wie ChatGPT und Bildgenerierungssoftware wie Stable Diffusion, sind leistungsstarke neue Werkzeuge für Einzelpersonen und Unternehmen. Sie werfen auch tiefgreifende und neuartige Fragen darüber auf, wie Daten in KI-Modellen verwendet werden und wie das Gesetz auf die Ausgabe dieser Modelle anzuwenden ist, beispielsweise auf einen Textabschnitt oder ein computergeneriertes Bild.

„Wir sind Zeugen der Geburt einer wirklich großartigen neuen Technologie“, sagte Regina Sam Penti, SB '02, MEng '03, Rechtspartnerin bei Ropes & Gray, die sich auf Technologie und geistiges Eigentum spezialisiert hat. „Es ist eine aufregende Zeit, aber im Moment ist es ein juristisches Minenfeld.“

Auf der diesjährigen EmTech Digital-Konferenz, die von MIT Technology Review gesponsert wurde, diskutierte Penti, was Benutzer und Unternehmen über die rechtlichen Fragen im Zusammenhang mit generativer KI wissen sollten, einschließlich mehrerer anhängiger US-Gerichtsverfahren, und wie Unternehmen darüber nachdenken sollten, sich selbst zu schützen.

Die meisten Klagen über generative KI drehen sich um die Datennutzung, sagte Penti, „was nicht verwunderlich ist, wenn man bedenkt, dass diese Systeme riesige Datenmengen aus allen Teilen der Welt verbrauchen.“

Eine Klage mehrerer Programmierer gegen GitHub, Microsoft und OpenAI konzentriert sich auf GitHub Copilot, der in einfachem Englisch geschriebene Befehle in Computercode in Dutzenden verschiedener Programmiersprachen umwandelt. Copilot wurde anhand von Milliarden bereits geschriebener Zeilen Open-Source-Codes trainiert und entwickelt, was zu Fragen der Zuschreibung führte.

„Für Leute, die in der Open-Source-Community tätig sind, ist es ziemlich einfach, Open-Source-Software zu nehmen und sicherzustellen, dass Sie die Namensnennung behalten, die eine Voraussetzung für die Nutzung der Software ist“, sagte Penti. Ein KI-Modell wie das, das Copilot zugrunde liegt, „erkennt jedoch nicht, dass all diese Anforderungen erfüllt werden müssen.“ In der laufenden Klage wird den Unternehmen unter anderem ein Verstoß gegen Softwarelizenzbedingungen vorgeworfen.

In einem anderen Fall reichten mehrere bildende Künstler eine Sammelklage gegen die Unternehmen ein, die die Bildgeneratoren Stable Diffusion, Midjourney und DreamUp entwickelt haben, die alle Bilder auf der Grundlage von Texteingaben von Benutzern generieren. In dem Fall wird behauptet, dass die KI-Tools Urheberrechte verletzen, indem sie Bilder aus dem Internet extrahieren, um die KI-Modelle zu trainieren. In einer separaten Klage behauptet Getty Images, dass die Verwendung von Stable Diffusion zum Trainieren von Modellen Urheberrechte verletzt. Alle von Stable Diffusion generierten Bilder seien abgeleitete Werke, heißt es in der Klage, und einige dieser Bilder enthielten sogar Spuren des Getty-Wasserzeichens.

Es gebe auch „viel zu viele Fälle, um sie zählen zu können“, bei denen es um Datenschutzbedenken gehe, sagte Penti. Auf internen Daten trainierte KI-Modelle könnten sogar gegen unternehmenseigene Datenschutzrichtlinien verstoßen. Es gibt auch eher Nischenszenarien, wie zum Beispiel einen Fall, in dem ein Bürgermeister in Australien erwog, eine Verleumdungsklage gegen ChatGPT einzureichen, nachdem das Unternehmen fälschlicherweise behauptete, er habe Zeit im Gefängnis verbracht.

Auch wenn nicht klar ist, wie sich rechtliche Bedrohungen auf die Entwicklung generativer KI auswirken werden, könnten sie Entwickler von KI-Systemen dazu zwingen, sorgfältiger darüber nachzudenken, auf welchen Datensätzen sie ihre Modelle trainieren. Wahrscheinlicher ist, dass rechtliche Probleme die Einführung der Technologie verlangsamen könnten, da Unternehmen die Risiken bewerten, sagte Penti.

In den USA sind Urheberrechte und Patente die beiden wichtigsten Rechtssysteme zur Regulierung der Art der durch KI erzeugten Arbeit. Beides sei nicht einfach anzuwenden, sagte Penti.

Bei der Anwendung des Urheberrechts geht es darum, festzustellen, wer tatsächlich die Idee beispielsweise für ein Kunstwerk hatte. Das US Copyright Office erklärte kürzlich, dass Werke urheberrechtlich geschützt sein können, wenn KI bei der Erstellung mitgewirkt hat; Werke, die vollständig durch KI erstellt wurden, wären nicht schutzfähig.

Das Patentamt, das eine stärkere Form des Schutzes für geistiges Eigentum bietet, bleibt unklar, wie das Patentrecht auf die Ergebnisse von KI-Systemen angewendet werden soll. „Unser gesetzliches Patentsystem ist eigentlich darauf ausgelegt, physische Spielereien zu schützen“, sagte Penti, was es für den Umgang mit Software schlecht gerüstet macht. Jahrzehnt für Jahrzehnt hat das Amt überlegt, was patentierbar ist und was nicht. KI wirft derzeit kritische Fragen auf, wer etwas „erfunden“ hat und ob es patentierbar ist.

„In den USA muss man, um ein Erfinder zu sein, zumindest nach den geltenden Regeln, ein Mensch sein und die Person sein, die die Erfindung erfunden hat“, sagte Penti. Im Falle der Arzneimittelentwicklung könnte ein Pharmaunternehmen beispielsweise KI nutzen, um Millionen von molekularen Kandidaten zu durchforsten und sie auf 200 Kandidaten zu reduzieren und diese dann von Wissenschaftlern auf die beiden besten Möglichkeiten verfeinern zu lassen.

„Laut dem Patentamt oder den US-amerikanischen Erfindungsgesetzen ist der Erfinder derjenige, der diese Moleküle, also das KI-System, tatsächlich erfunden hat“, sagte Penti. „In den USA kann man ein System, das mithilfe künstlicher Intelligenz erstellt wurde, nicht patentieren. Es gibt also diese erstaunliche Möglichkeit, die Zeit, die vom Kandidaten bis zum Medikament benötigt wird, wirklich erheblich zu verkürzen, und dennoch haben wir kein gutes System, um es zu schützen.“

Angesichts der Tatsache, wie unausgereift diese Regulierungsrahmen noch sind, „sind Verträge Ihr bester Freund“, sagte Penti. Daten würden oft als Quelle von Datenschutz- oder Sicherheitsrisiken angesehen, fügte sie hinzu, sodass Daten nicht als Vermögenswert geschützt seien. Um dies auszugleichen, können die Parteien vertraglich vereinbaren, wer das Recht auf verschiedene geistige Eigentumsrechte hat.

Aber „in Bezug auf die tatsächliche rahmenbasierte gesetzliche Unterstützung haben die USA noch einen langen Weg vor sich“, sagte Penti.

Die rechtlichen Probleme im Zusammenhang mit generativer KI haben mehrere Auswirkungen auf Unternehmen, die KI-Programme entwickeln, und auf diejenigen, die sie nutzen, sagte Penti.

Laut Penti müssen Entwickler möglicherweise intelligenter und kreativer werden, woher sie Trainingsdaten für KI-Modelle beziehen, was ihnen auch dabei helfen wird, Verzögerungen zu vermeiden, die durch mangelnde Klarheit darüber, was zulässig ist, verursacht werden.

Unternehmen, die beginnen, KI in ihre Abläufe zu integrieren, haben mehrere Möglichkeiten, rechtliche Risiken zu reduzieren. Erstens sollten Unternehmen ihre Sorgfaltspflicht aktiv erfüllen und Maßnahmen wie die Überwachung von KI-Systemen ergreifen und angemessene Zusicherungen von Dienst- und Datenanbietern einholen. Verträge mit Dienst- und Datenanbietern sollten eine Entschädigungsleistung beinhalten – ein Mechanismus, der sicherstellt, dass ein Unternehmen, wenn es ein Produkt oder eine Technologie gemäß einer Vereinbarung nutzt, vor rechtlicher Haftung geschützt ist.

„Letztendlich denke ich jedoch, dass die beste Strategie zur Risikominderung eine angemessene Schulung der Mitarbeiter ist, die diese Systeme für Sie erstellen“, sagte Penti. „Sie sollten ihnen zum Beispiel klar machen, dass die bloße Tatsache, dass etwas kostenlos verfügbar ist, nicht bedeutet, dass es frei von Rechten ist.“

Lesen Sie weiter: Das Argument für datenzentrierte künstliche Intelligenz