Europäisches Parlament äußert sich zu künstlicher Intelligenz und Robotik

Ein Gastbeitrag von Dr. Markus Häuser

Beitrag als PDF (Download)

Hintergrund

In der Wirtschaft werden die Einsatzmöglichkeiten von intelligenten IT-Systemen und autonom agierenden Maschinen und Geräten derzeit lebhaft diskutiert. Die rasante technische Entwicklung in diesen Bereichen beflügelt die Phantasien der Anwender. Die Einsatzbereiche sind äußerst vielfältig: Produktionsroboter in der Industrie, Drohnen und fahrende Lieferroboter in der Logistik und Lagerhaltung, Healthcare-Roboter, autonome Fahrzeuge etc. Schon heute sind einige dieser Nutzungsszenarien keine Science-Fiction mehr. Besonders in den Bereichen Produktion und Logistik sind vielfach bereits intelligente Roboter am Werk. Aus rechtlicher Sicht sind im Hinblick auf die Robotik und die in den Robotern verbaute künstliche Intelligenz (KI) noch viele Fragen ungeklärt. Dies hat das Europäische Parlament dazu veranlasst, am 16.02.2017 mit 396 Jastimmen (bei 123 Neinstimmen und 85 Enthaltungen) eine Entschließung mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik [2015/2103(INL)] zu verabschieden. Die Vorschläge des Parlaments basieren auf einem am 12.01.2017 veröffentlichten Bericht des Rechtsausschusses des Europäischen Parlaments. Die Kommission ist nicht verpflichtet, den Empfehlungen des Parlaments zu folgen. Tut sie dies nicht, muss sie diesen Schritt aber begründen.

Die Empfehlungen des Europäischen Parlaments befassen sich mit allgemeinen Grundsätzen der Entwicklung von Robotik und KI zur zivilen Nutzung und greifen verschiedene Themen rund um die neue Technik auf. Zentrale Punkte sind dabei der Wunsch nach Festlegung ethischer Grundsätze für die Entwicklung und den Gebrauch von KI-gestützter Robotik und die Klärung der zahlreichen noch offenen Haftungsfragen. In diesem Zusammenhang fordert das Parlament die Kommission auch dazu auf, langfristig über die Einführung eines eigenen rechtlichen Status für intelligente Roboter nachzudenken. Außerdem wird in der Entschließung des Parlaments von der Einrichtung einer europäischen Agentur für Robotik und künstliche Intelligenz gesprochen. Diese soll dazu dienen, das erforderliche technische, ethische und regulatorische Fachwissen zur Verfügung zu stellen, um rechtzeitig und fundiert Antworten auf die Herausforderungen und Chancen geben zu können, die sich aus der Entwicklung der Robotik ergeben. Vorgeschlagen wird außerdem, ein unionsweites Roboterregister einzurichten sowie eine Registrierungspflicht und eine Versicherungspflicht für intelligente Roboter einzuführen.

Ein ethischer Leitrahmen: „Charta über Robotik“

Nach Auffassung des Europäischen Parlaments ergibt sich aus der Entwicklung und Nutzung der Robotik eine Reihe von Spannungen oder Risiken. Dies gilt für Fragen der Sicherheit, der Privatsphäre, der Unversehrtheit, der Würde, der Autonomie und des Dateneigentums des Menschen. Die Parlamentsmitglieder sind mehrheitlich der Auffassung, dass ein ethischer Leitrahmen für die Konstruktion und die Nutzung von Robotern benötigt wird. Sie unterbreiten der Kommission deshalb einen Vorschlag zur Errichtung einer sogenannten „Charta über Robotik“, in der ein ethischer Leitrahmen für die Konstruktion und die Nutzung von Robotern festgelegt werden soll. Nach dieser Charta sollen sich Forscher auf dem Gebiet der Robotik selbst zu dem höchsten ethischen und professionellen Verhalten verpflichten. Sie sollen sich an die Grundsätze von Benefizienz (Roboter sollten im besten Interesse der Menschen handeln), Schadensvermeidung, Autonomie (Möglichkeit der autonomen Entscheidung über die Bedingungen der Interaktion mit Robotern) und Gerechtigkeit bei der Verteilung der Nutzen, die mit Robotik verbunden sind, halten. In welcher Form diese Charta über Robotik letztlich Gesetz werden könnte, ist noch völlig offen. Die in der Charta enthaltenen Grundsätze sind sehr weit und allgemein gefasst. In der konkreten Ausgestaltung wird es mit Sicherheit noch viel Diskussionsbedarf geben.

Roboter als „elektronische Person“? – möglicherweise sinnvoll aus versicherungs-rechtlicher …

Besonders der Vorschlag des Parlaments, langfristig die Einführung eines eigenen Rechtsstatus für Roboter zu erwägen, dürfte für enormen Diskussionsbedarf sorgen. Sollten Roboter wirklich einen eigenen Rechtsstatus, der oft als „elektronische Person“ oder „E-Person“ bezeichnet wird, erhalten? Was zunächst sehr fremd und eigenartig klingt, ist bei genauem Hinsehen aus sehr praktischen Erwägungen heraus motiviert: Hat ein Roboter einen eigenen rechtlichen Status, kann er über diesen Status auch für seine Handlungen und Entscheidungen selbst verantwortlich gemacht werden. Verursacht er zum Beispiel einen Schaden, kann man den Roboter direkt auf Schadensersatz verklagen. Das macht natürlich nur Sinn, wenn diese Schäden über eine Versicherung abgedeckt sind. Deshalb schlägt das Parlament auch die Einführung einer Versicherungspflicht für intelligente Roboter vor. Aus juristischer Sicht könnte die Einführung einer „elektronischen Person“, gepaart mit einer Versicherungspflicht für intelligente Roboter, sinnvoll sein. Die Entwicklung hochintelligenter vollautonomer Systeme scheint nur noch eine Frage der Zeit zu sein. Je stärker aber der Grad an Eigensteuerung zunimmt und je mehr Maschinen ihre eigenen Entscheidungen treffen, desto mehr wird die Verantwortung der Menschen in den Hintergrund rücken. Der Mensch wird seine Verantwortung immer öfter mit dem Hinweis darauf bestreiten, dass er sich voll und ganz auf die intelligente Technik verlassen durfte. Es ist ja der Sinn der Automatisierung und der KI, die so ausgestatteten Geräte nicht mehr ununterbrochen anleiten und überwachen zu müssen. Zudem ist fraglich, ob eine lückenlose menschliche Kontrolle bei intelligenten und autonom agierenden komplexen Systemen überhaupt noch machbar sein wird. Hinzu kommt, dass es gerade bei der Interaktion mehrerer intelligenter Systeme miteinander teilweise nicht mehr möglich sein wird, im Schadensfall die verantwortliche Person oder den Verantwortungsbeitrag zu ermitteln. Hier tun sich Lücken auf, die mit heutigem Rechtsverständnis nicht zu schließen sind. Denn das Zivilrecht kennt nur die natürliche und die juristische Person, nicht aber die „E-Person“.

… und vertragsrechtlicher Sicht

Ein eigener Rechtsstatus für Roboter ist Musik aus einer noch nicht ganz nahen Zukunft. Auch auf dem Gebiet des Vertragsrechts könnte er aber nützlich sein. Geben Roboter Erklärungen im eigenen Namen ab und handeln sie dabei mit eigener Rechtspersönlichkeit, so werden sie selbst Vertragspartner und damit Träger von Rechten und Pflichten. Damit würden Roboter auch selbst mit ihrem eigenen Vermögen haften und wären auch vor Gericht zu verklagen. Dass dies einige Herausforderungen mit sich bringt, liegt auf der Hand. Es stellt sich zum Beispiel die Frage, ob und wie ein Roboter eigenes Vermögen aufbauen soll. Soll er für seine Arbeit entlohnt werden? Das hört sich aus heutiger Sicht dann doch alles noch sehr futuristisch und phantastisch an. Der wirtschaftliche Gedanke dahinter ist aber durchaus naheliegend, denn ein Roboter könnte aus seinem Lohn auch Steuern zahlen. Für die Aufrechterhaltung der Sozialsysteme könnte dies essentiell werden. Auch Versicherungsbeiträge für die Roboterhaftpflichtversicherung könnten aus diesem Lohn bestritten werden.

Fazit und Ausblick

Das Europäische Parlament macht in seiner neuen Entschließung erste Vorschläge zu rechtlichen Regelungen über Maschinen, die aufgrund ihrer Ausstattung mit KI und ihrer physischen Bewegungsfreiheit autonom agieren und allein Entscheidungen treffen können. Hier ist aus rechtlicher Sicht sicher noch lange nicht das letzte Wort gesprochen. Es werden Jahre vergehen, bevor entsprechende Gesetze tatsächlich verabschiedet werden. Die technische Entwicklung im Bereich der KI und der Robotik wird indessen weder auf nationale noch auf den europäischen Gesetzgeber warten und mit unverändertem Tempo weiter voranschreiten. Ob die technische Entwicklung die rechtliche Diskussion nicht schon bald überholt, bleibt abzuwarten.

Abseits der rechtlichen Fragen rund um die Robotik wird es für uns Juristen interessant sein zu sehen, in welcher Form die KI Einzug in unser eigenes Berufsleben hält. Viel ist derzeit von LegalTech und digitaler Transformation der Rechtsberatung die Rede. Betrachtet man die zahlreichen neuen Rechtsfragen, die sich in Zusammenhang mit KI und Robotik auftun, scheinen uns die Roboter allerdings auf der einen Seite so viel neue Arbeit zu machen, wie sie uns als intelligente Helfer auf der anderen Seite abnehmen können.F

Hinweis der Redaktion: Unser Autor ist Experte im Technologierecht und Mitherausgeber der kürzlich erschienenen Studie „Digital Economy & Recht“ des Bundesverbandes der Unternehmensjuristen (BUJ) in Kooperation mit CMS. Die Studie befasst sich mit den rechtlichen Herausforderungen der digitalen Transformation und den Auswirkungen der Digitalisierung auf die Rechtsabteilung. (tw)

markus.haeuser@cms-hs.com

 

 

Aktuelle Beiträge