Vertrags­gestaltung für KI-Anwendungen

Gestaltung von Vertriebs- und Nutzungsverträgen für KI-Services

Die technischen und inhaltlichen Besonderheiten von ­KI-Technologien und der daraus resultierenden ­KI-Anwendungen haben Auswirkungen auf die rechtlich umsichtige Gestaltung der Vertriebs- und Nutzungsverträge für KI-Plattformen und -Anwendungen. Zwar folgt die Gestaltung zum Beispiel von Nutzungsverträgen für KI-Services tendenziell den für Onlineplattformen und Big-Data-Anwendungen bewährten Grundsätzen. Hierbei bedarf es jedoch eines sorgfältigen Blicks auf die Spezifikationen und Besonderheiten der jeweiligen KI-Technologie. So kann zum Beispiel je nach Art und (Leistungs-)Gegenstand der KI-Anwendung eine besonders sorgfältige Beschreibung der erlaubten Nutzungshandlungen sowie deren Grenzen erforderlich sein. Denn zum einen bringen manche KI-Anwendungen per se ein erhöhtes – rechtliches oder ethisches – Missbrauchspotential mit sich. Zum anderen kann die Nutzung von KI-Technologien neue oder veränderte Haftungsrisiken beinhalten. Insofern kann aus Sicht des Betreibers bereits an dieser Stelle eine hochwertige Gestaltung des Nutzungsvertrags haftungsreduzierend wirken – und zwar sowohl für ihn selbst als auch für die Anwender seines KI-Dienstes.

Soweit die KI-Anwendung konkrete Ergebnisse erzeugen kann (Output), etwa Texte, grafische Darstellungen oder Bildnisse, bedarf es gegebenenfalls einer Regelung der Nutzungsrechte an diesen Ergebnissen. Zwar ist die Rechtslage hierzu im deutschen Rechtsraum bekanntermaßen noch nicht abschließend geklärt. Insbesondere ist unsicher, ob und unter welchen Voraussetzungen ein Output überhaupt urheberrechtsschutzfähig ist (beziehungsweise werden kann). Gleichwohl lassen sich auf Ebene des Nutzungsvertrags manche Risiken und Unsicherheiten zumindest verringern. So kann zum Beispiel in den Nutzungsbedingungen ein Hinweis hilfreich (oder erforderlich) sein, dass die KI – je nach konkretem Input – für unterschiedliche Nutzer unter Umständen ähnliche oder sogar identische Ergebnisse erzeugen kann. Hieraus können – auch rechtliche – Konsequenzen für eine etwaige kommerzielle Nutzung des Outputs entstehen.
Je werthaltiger der Output der KI-Anwendung ist, umso wichtiger wird eine interessengerechte vertragliche ­Gestaltung der Thematik für Anbieter und Nutzer der KI-Anwendung.

Vertragliche Regelung der Datenverwendung?

Im Rahmen der Nutzung der KI-Anwendung erhält ­deren Anbieter (beziehungsweise Betreiber) häufig umfassende Daten und Informationen über das Nutzerverhalten. Zudem verarbeitet er die durch den Nutzer in die KI eingegebenen Daten und Informationen (Input). Auch die Verwendung dieses Inputs durch den Anbieter kann auf Vertragsebene regelungsbedürftig sein. Denn auf der einen Seite hat der KI-Anbieter in der Regel ein erhebliches Interesse (oder gar das zwingende Bedürfnis) an einer solchen Verwendung – etwa für die ­Optimierung und Fortentwicklung seiner KI-Anwendung. Auf der ­anderen Seite muss sichergestellt werden, dass der Nutzer der KI durch die (wenngleich gegebenenfalls nur anbieterinterne) Verwendung der Daten und Informationen keine Benachteiligung erfährt.

So lassen sich manche Anbieter von KI-Diensten – mitunter umfassende – Rechte am Input des Nutzers einräumen. Zumindest Unternehmen, die KI im Rahmen ihrer gewerblichen Tätigkeit nutzen möchten, sollten insofern prüfen, welche Daten und Informationen des Unternehmens (oder deren Kunden) als Input in die ­betreffende KI-Anwendung überhaupt eingespeist ­werden können.

Weitere Aspekte

Natürlich sind auch bei der Gestaltung von Vertragsbedingungen für KI-Anwendungen die im deutschen Rechtsraum für Allgemeine Geschäftsbedingungen (AGB) gesetzlich festgelegten Grenzen zu beachten. In Ermangelung konkreter Rechtsprechung zu „KI-Vertragsklauseln“ bringt deren Gestaltung ebenso in ­(AGB-) rechtlicher Hinsicht erhöhte Anforderungen mit sich. Um einem häufigen Änderungsbedarf der Vertrags­dokumente möglichst vorzubeugen, sollten zudem heran­nahende Gesetzesvorhaben frühzeitig berücksichtigt werden.

Für Anbieter und Betreiber von KI-Anwendungen kann die umsichtige Gestaltung der zum Betrieb, Vertrieb und zur Nutzung benötigten Vertragsdokumente ein wesentlicher Schlüssel zum Markterfolg der KI-Anwendungen sein.

Vertragsabschlüsse durch die KI?

Vertragsabschlüsse via E-Mail oder innerhalb von ­Onlineplattformen sind seit Langem üblich. Die hierfür verwendeten Verfahren sind etabliert und lassen sich in aller Regel ohne weiteres rechtssicher gestalten und ­umsetzen.

Die für solche Vertragsabschlüsse erforderlichen (Willens-)Erklärungen der Beteiligten werden allerdings ­immer von Menschen abgegeben – mit Wirkung entweder für sich selbst oder für das betreffende Unternehmen. Dasselbe gilt für sogenannte automatisierte Willenserklärungen: Übermittelt zum Beispiel ein Onlineshop an den Besteller „automatisch“ eine E-Mail mit einer verbindlichen Bestellannahme, dann wird diese Erklärung durch das System zwar selbständig generiert und übermittelt. Dies erfolgt jedoch exakt anhand der programmierten und dem System auf diese Weise vorgegebenen Parameter – und damit letztlich wieder durch einen Menschen (dessen Willenserklärung insofern dem Betreiber des Onlineshops zuzurechnen ist). Auch solche automatisierten Willens­erklärungen sind in aller Regel rechtsverbindlich.

Im „Zeitalter der KI“ erscheint es aber zunehmend denkbar, dass auf Vertragsabschlüsse gerichtete Erklärungen auf Basis eines (mehr oder weniger) autonom ablaufenden Entscheidungsprozesses durch die KI abgegeben werden – und damit durch die Maschine, ohne dass dies durch einen Menschen mittels der Programmierung direkt vorgegeben worden ist. Die KI „trifft“ also, auf Basis spezieller, komplexer Parameter und einer Vielzahl eingespeister oder „erlernter“ Informationen, eine bestimmte Entscheidung – die Konsequenz dieser Entscheidung ist gegebenenfalls die Abgabe und Übermittlung einer bestimmten Erklärung an den Adressaten. Ein einfaches Beispiel hierfür könnte die Bewilligung eines (Klein-)Kredits durch die autonom prüfende KI an den Antragsteller sein.

Die Frage, inwieweit solche „Maschinenerklärungen“ noch einem Rechtssubjekt zugerechnet werden können, also einem Menschen oder einem Unternehmen, hat auf die Gestaltung und Nutzung von KI-Anwendungen zunehmend Auswirkungen, wie die folgenden Gesichtspunkte darlegen:

• Darf die KI – und in welchem Ausmaß – „autonom“ rechtserhebliche Erklärungen abgeben, also zum Beispiel Angebote unterbreiten, annehmen oder ­ablehnen?
• Wer ist verantwortlich für autonome Erklärungen, wenn diese zu einem unerwünschten („fehlerhaften“) Resultat führen?
• Wem ist eine „Maschinenerklärung“ der KI verbindlich zuzurechnen?
• Und wie lassen sich die Abgabe einer rechtserheblichen Maschinenerklärung und der zugrundeliegende Entscheidungsprozess rechtssicher dokumentieren und nachweisen?

Entwickler und Anbieter entsprechender KI-Anwendungen sollten derartige Fragen möglichst bereits in der Phase der Produktentwicklung adressieren – und bei Bedarf ­einer gestalterischen Lösung zuführen. Etwaige aus der „digitalen Kommunikation“ der KI resultierende Verantwortungsthematiken und Haftungsrisiken müssen ­erkannt und konzeptionell berücksichtigt werden. Dies kann zum Beispiel zu dem Bedürfnis führen, den Vorgang der Entscheidungsfindung sowie die Kommunikation der KI zu kontrollieren oder zu beeinflussen – oder dem KI-Anwender hierzu innerhalb des KI-Systems Möglichkeiten zu eröffnen. Insbesondere risikobehaftete Kommunikationsvorgänge der KI-Anwendung müssen gegebenenfalls steuerbar und für Nachweiszwecke archivierbar sein. Gegebenenfalls müssen einzelne entscheidungsrelevante Parameter nachvollziehbar (oder beeinflussbar) sein.

Wo KI-Anwendungen mit Geschäftspartnern kommunizieren, können sich zudem Regelungen auf vertrag­licher Ebene anbieten. So kann etwa der Anwender eines ­KI-Systems mit seinen Vertragspartnern (zum Beispiel dem Lieferanten) vertraglich festlegen, unter welchen konkreten Voraussetzungen eine durch die KI ­abgegebene „Erklärung“ zwischen den Parteien als rechtsverbindlich anerkannt wird.

Mit Blick auf diese Thematik kommt eine Reihe durchaus vielversprechender Gestaltungs- und Lösungsmöglich­keiten in Betracht – die in der Praxis bisher allerdings noch zu wenig genutzt werden. Hier bietet sich für ­Hersteller- und Anwenderunternehmen für zukünftige KI-Anwendungen mithin noch Optimierungspotential.