Grenzen der Kreativität

Am 15.08.2023 ist in China die weltweit erste Regelung für generative künstliche Intelligenz (GenKI) in Kraft getreten (AI Interim Measures). Es handelt sich dabei um einen 24 Punkte umfassenden Übergangsrechtsakt, der bestehende Pläne und Richtlinien ergänzen soll und deutlich weniger regulierend als der Vorentwurf zu sein scheint. Knapp ein Jahr später ist die europäische Verordnung über Künstliche Intelligenz (AI Act) in Kraft getreten. Inwieweit sich die Vorschriften vergleichen lassen, warum China seine KI-Gesetzgebung nachgebessert hat und was die Regelungen für Europa bedeuten können, soll in diesem Beitrag beleuchtet werden.

Vorherige Rechtslage: Erste Gesetze zur Regulierung von KI

Bereits im Sommer 2017 hat der chinesische Staatsrat den „Next Generation Artificial Intelligence Development Plan“ verabschiedet, in welchem weitreichende Ziele für die Volksrepublik im Bereich der Entwicklung und Anwendung von künstlicher Intelligenz (KI) bis 2030 festgelegt wurden. Diese Ziele wurden 2021 durch die Veröffentlichung der ersten ethischen Leitlinien für KI ergänzt (siehe hier). Ziel der Leitlinien ist es, sicherzustellen, dass Menschen das Recht haben, selbst über die Annahme, Beendigung oder Einstellung von KI-Diensten zu entscheiden. Damit soll die menschliche Kontrolle über die KI sichergestellt werden.

Anfang 2022 wurden erstmals zwei Gesetze zu bestimmten KI-Anwendungen veröffentlicht. Die Regelungen zu den „Recommendation Algorithm Provisions“ gelten bereits seit März 2022 und sollen den Missbrauch von algorithmischen Empfehlungssystemen einschränken. Der 35 Artikel umfassende Rechtsakt enthält Bestimmungen zu Contentmanagement, Kennzeichnung und Etikettierung, Transparenz, Datenschutz und fairen Praktiken sowie ergänzende zielgruppenspezifische Artikel.

Im Januar 2023 folgten die „Deep Synthesis Provisions“, die „Deep Synthesis Technologies“, insbesondere „Deep Fakes“, regulieren sollen. In 25 Artikeln wurden Regeln für den Umgang mit Daten festgelegt und die Anbieter zur Einhaltung der Gesetze aufgefordert. Im Vordergrund stehen dabei Datensicherheit (insbesondere personenbezogene Daten), Transparenz, Contentmanagement und Kennzeichnung sowie technische Sicherheit. Beide Gesetze sehen bei Verstößen Bußgelder von bis zu knapp 16.000 US-Dollar vor.

Im April veröffentlichte die „Cyberspace Administration of China“ (CAC), aufbauend auf den „Deep Synthesis Provisions“, weitere Vorschriften für Unternehmen, welche KI-Systeme entwickeln und anbieten. Zwar soll die Entwicklung und Anwendung von KI-Systemen weiterhin besonders gefördert werden, allerdings nur unter Beachtung der sozialistischen Grundwerte der Volksrepublik und ohne Diskriminierung von Geschlecht oder Alter. Außerdem dürfen nur wahrheitsgemäße Inhalte dargestellt werden. Bei Zuwiderhandlung muss mit Geldstrafen und strafrechtlichen Ermittlungen gerechnet werden.

Neben den originären Regelungen zum Thema KI bestehen weitere Rechtsakte, welche das Training und die Nutzung von KI aus datenschutzrechtlicher Sicht regeln:

• das Gesetz der Volksrepublik China zum Schutz persönlicher Daten (GSPD),
• das Cybersicherheitsgesetz,
• das Datensicherheitsgesetz sowie
• das 4. Buch des Zivilgesetzbuches der Volksrepublik China.

Darüber hinaus existieren urheberrechtliche Vorschriften, die das Training und den Einsatz von KI regeln.

Neue Rechtslage: Regelung nach den AI Interim Measures

Am 15.08.2023 wurden von der CAC die neuen Interimsregelungen für den Umgang mit KI verabschiedet und von sieben weiteren Behörden, darunter dem Ministerium für öffentliche Sicherheit, unterstützt. Die 24 Punkte umfassende Verordnung zur Regulierung von generativer KI ist weiterhin nur als vorläufig deklariert.

Geringere Regelungsdichte als der Erstentwurf

Die aktuellen AI Interim Measures enthalten insbesondere Vorschriften in Bezug auf die Datenqualität, die Transparenz und die Information über die Nutzung von GenKI sowie einige Betroffenenrechte. Die Vorschrift ist deutlich weniger restriktiv, als der erste Entwurf von April 2023 vorsah. Ein Grund hierfür dürfte sein, dass die Regierung heimische Unternehmen im Land halten will, um wettbewerbsfähig zu bleiben. Denn nach der Veröffentlichung des ersten Entwurfs im April hatten insbesondere die chinesischen ChatGPT-Alternativen („Ernie Bot“ von Baidu oder „Tongyi Qianwen“ von Alibaba) eine Blockade ihrer Systeme befürchtet, da im aktuellen Entwicklungsstadium keine fehlerfreien bzw. 100%ig wahrheitsgetreuen Trainingsdaten und Antworten garantiert werden können. Dies hätte bei über 100 KI-Unternehmen in China zu einem Entwicklungsstopp führen können.

In den neuen Regelungen betont die Regierung mehrfach ihre grundsätzliche Unterstützung für GenKI. Öffentliche Datenplattformen zum Training von KI-Software sollen ebenso gefördert werden wie die gemeinschaftliche und effiziente Nutzung von IT-Ressourcen. Zudem sollen die Regelungen explizit nicht für Anbieter gelten, die ihre Software nicht der inländischen Öffentlichkeit zur Verfügung stellen, so dass Entwickler von KI-Systemen ihre Algorithmen nicht mehr vorab den Behörden zur Sicherheitsüberprüfung vorlegen müssen.

Eine allgemeingültige Definition von KI findet sich in den chinesischen Rechtsakten indes nicht. Lediglich die GenKI-Systeme werden als „Technologien zur Bereitstellung von Diensten, die der Öffentlichkeit im Hoheitsgebiet der Volksrepublik China Texte, Bilder, Audio-, Video- und andere Inhalte generieren“, definiert.

Lockerungen für nationale, Kontrolle für ausländische Unternehmen

Im Hinblick auf den territorialen Anwendungsbereich der AI Interim Measures ist bemerkenswert, dass diese nur für Anbieter von GenKI-Systemen gelten sollen, welche die beschriebenen Dienste in Festland-China anbieten. Das bedeutet, dass chinesische Unternehmen, die ein GenKI-System in einem anderen Land auf den Markt bringen, nicht an die Regularien der AI Interim Measures gebunden sind. Zudem enthalten die AI Interim Measures einen Verbotstatbestand für ausländische Anbieter in China, sobald diese gegen geltendes Recht (u.a. sozialistische Grundwerte) verstoßen.

In den AI Interim Measures steht der Schutz der „nationalen Sicherheit“ im Vordergrund, was insbesondere auch durch die Verpflichtung aller Behörden zur Kontrolle der GenKI unterstrichen wird. KI-Anbieter sind ferner dazu verpflichtet, illegal agierende Nutzer an die Behörden zu melden. Wann die Interimsverordnung überarbeitet wird, ist derzeit unklar. Ursprünglich hatte die chinesische Regierung geplant, im Laufe des Jahres 2023 eine finale KI-Regulierung zu verabschieden. Dazu kam es jedoch nicht und eine Neureglung ist bislang nicht in Sicht.

Ungebremste Innovation?

Die AI Interim Measures scheinen bislang wenig technologie- und innovationshemmend. Jüngst veröffentlichte das chinesische GenKI-Unternehmen „DeepSeek“ den Chatbot „DeepSeek-R1“, der laut dem an die UC Berkeley angebundenen „Chatbot Arena Leaderboard“ äußerst leistungsstark scheint.

DeepSeek erreichte laut eigenen Angaben gute Benchmarks, ohne auf große Mengen GPU-Halbleiter angewiesen zu sein. Die genauen Modalitäten des Trainings von DeepSeek-R1, welche Daten das Unternehmen für das Training der GenKI nutzte und wo diese herstammen, bleiben aufgrund der Intransparenz des chinesischen Marktes für Akteure in westlichen Ländern unbekannt – ein Zustand, der durch den AI Act in Europa undenkbar wäre. Die europäische Kommission befürchtet indes einen Spill-Over-Effekt und untersucht nun DeepSeek dahingehend, wie eine solche Benchmark-Leistung ohne die entsprechende Rechenleistung erzielt werden konnte.

Unterschiedliche Ansätze in Ost und West

Während die Abwesenheit von Technologie- und Innovationshemmnissen auf den ersten Blick vielversprechend klingen mag, birgt sie ein erhebliches Schadenspotential. Dieses Schadenspotential einzugrenzen, hat sich die Europäische Union (EU) auf die Fahnen geschrieben. Der AI Act unterscheidet sich somit grundlegend von dem Ansatz, welchen die Volksrepublik verfolgt. Anders als bei der chinesischen KI-Regulierung handelt es sich bei dem AI Act um ein horizontales Regelwerk, welches nicht nur punktuell, wie durch den chinesischen Gesetzgeber für die GenKI, sondern sektor- und systemartübergreifend reguliert. Der AI Act soll die Entwicklung, das Inverkehrbringen und die Nutzung von KI-Systemen in der EU harmonisieren. Zu diesem Zweck teilt er KI-Systeme einem risikobasierten Ansatz folgend in vier Risikokategorien ein, wobei insbesondere Systeme mit hohem Risiko einer umfassenden Regulierung unterliegen sollen. Der AI Act ist am 01.08.2024 in Kraft getreten und gilt ab dem 02.08.2027 vollumfänglich.

Ausblick

China war einer der ersten Staaten mit gesetzlichen Regelungen zu KI und will mit den neuen Regelungen zu GenKI seine Rolle als weltweit führendes Technologieland ausbauen. Für Europa und andere westliche Länder sind die neu in Kraft getretenen chinesischen Regelungen allerdings wenig relevant, da aufgrund der starken Kontrolle kaum ausländische Unternehmen auf dem Markt agieren können. So ist beispielsweise ChatGPT seit langem blockiert. Wichtiger als die Übergangsregelungen zu GenKI dürften für deutsche und europäische Unternehmen die Regelungen zur Digitalisierung im Bereich Mobilität und Datenverarbeitung werden. Es bleibt abzuwarten, ob und wie China auf den europäischen AI Act reagieren wird.

Die chinesischen Regelungen unterstreichen jedoch auch die Absicht der Volksrepublik, sich an der Entwicklung internationaler Regelungen von KI zu beteiligen. Es ist davon auszugehen, dass die rasche Veröffentlichung der vorläufigen Regelungen in China unter anderem dazu diente, sich weltweit eine Vorreiterrolle bei der Regulierung von GenKI zu sichern.