Anfang Februar 2023 veröffentlichte der Ausschuss des Europarates für künstliche Intelligenz den „Zero Draft“ zum Übereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit. Das Dokument ist auf den 6. Januar 2023 datiert und enthält den ersten Vorschlag des Europarates bezüglich des künftigen regulatorischen Rahmens für künstliche Intelligenz.

Die Entstehungsgeschichte der Arbeiten am Übereinkommen

Im September 2019 hat der Europarat die Arbeiten eingeleitet, um die Möglichkeit der Schaffung eines Rechtsrahmens zu prüfen, der sicherstellen sollte, dass bei der Gestaltung, Entwicklung und Nutzung von Systemen der sog. künstlichen Intelligenz (KI) die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit geachtet werden. Anfang 2022 wurde vom Europarat der Ausschuss für Künstliche Intelligenz (Committee on Artificial Intelligence, CAI) gegründet, von dem im Februar 2023 der auf den 6. Januar 2023 datierte „Zero Draft“ zum Übereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit veröffentlicht wurde (revised zero draft [Framework] Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law)[1].

Eigenart des Übereinkommens

Mit dem entworfenen Übereinkommen soll lediglich ein allgemeiner Rechtsrahmen für die Anwendung von KI-Lösungen geschaffen werden. Eine Analyse des veröffentlichten Entwurfs (trotz seines vorläufigen und unvollständigen Charakters) zeigt, dass das künftige Übereinkommen den natürlichen oder juristischen Personen keine direkten Verpflichtungen oder Verbote auferlegen wird. Die sich daraus ergebenden Verpflichtungen werden nur für Länder gelten, die sich für den Beitritt zum Übereinkommen entscheiden. Diese werden verpflichtet sein, in ihren nationalen Rechtsordnungen die Maßnahmen umzusetzen, die zur Erfüllung der im Übereinkommen festgelegten Grundsätze erforderlich sind. Potenziell werden auch die EU-Mitgliedstaaten betroffen sein, da sich der Anwendungsbereich des Übereinkommensentwurfs nicht immer mit dem Entwurf der Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz deckt (Verordnung über künstliche Intelligenz; nachstehend „KI-Verordnung“).

Das Übereinkommen wird auch Mechanismen vorsehen, die eine wirksame Umsetzung seiner Bestimmungen unterstützen sollen, und die Vertragsparteien des Übereinkommens dazu verpflichten, nationale Aufsichtsorgane zu benennen, die für die Einhaltung des Übereinkommens zuständig sein werden.

Definition des KI-Systems

Der Entwurf des Übereinkommens definiert das KI-System als jedes algorithmische System oder jede Kombination solcher Systeme, das/die gemäß der Definition im Übereinkommen und im nationalen Recht jeder Vertragspartei des Übereinkommens die Berechnungsmethoden verwendet, die aus der Statistik oder sonstigen mathematischen Techniken abgeleitet sind, um Funktionen auszuführen, die allgemein mit menschlicher Intelligenz assoziiert werden oder andernfalls menschliche Intelligenz erfordern würden, und das/die das menschliche Urteilsvermögen bei der Ausführung dieser Funktionen unterstützt bzw. ersetzt. Zu diesen Funktionen gehören unter anderem Vorhersage, Planung, Klassifizierung, Mustererkennung, Organisation, Wahrnehmung, Sprach-/Ton-/Bild-Erkennung, Text-/Ton-/Bild-Erzeugung, Sprachübersetzung, Kommunikation, Lernen, Darstellung und Problemlösung[2]. Es handelt sich dabei also um eine sehr weit gefasste und unpräzise Definition, die von der Definition im Entwurf der KI-Verordnung und von vielen anderen rechtlichen Definitionen der KI (des KI-Systems) abweicht. Es wurde u. a. der Notwendigkeit eines zumindest teilweise autonomen Betriebs oder der Möglichkeit des maschinellen Lernens keine Aufmerksamkeit geschenkt. Stattdessen wird auf den sehr zweideutigen und seltenen Begriff der „menschlichen Intelligenz“ sowie auf „aus der Statistik oder sonstigen mathematischen Techniken abgeleitete Berechnungsmethoden“ verwiesen.

Rechte und Pflichten aus dem Übereinkommen

Der durch das Übereinkommen eingeführte Rechtsrahmen gilt für den Entwurf, die Entwicklung und die Nutzung von KI-Systemen während deren gesamten Lebenszyklus, unabhängig davon, ob bestimmte Maßnahmen von öffentlichen oder privaten Stellen ergriffen werden. Dieser Rechtsrahmen findet jedoch keine Anwendung für KI-Systeme, die zu Verteidigungszwecken eingesetzt werden.

Im Übereinkommensentwurf werden einige separate Gruppen von Verpflichtungen genannt. Sie umfassen u. a. folgende Verpflichtungen:

  • Grundprinzipien im Zusammenhang mit dem Entwurf, der Entwicklung und Nutzung von KI-Systemen,
  • Sicherheitsmaßnahmen und Haftungsregeln im Zusammenhang mit der Nutzung von KI-Systemen,
  • Risikoanalyse im Zusammenhang mit KI-Systemen,
  • Nutzung von KI-Systemen durch öffentliche Behörden und
  • Nutzung von KI-Systemen für die Lieferung von Waren und Dienstleistungen.

Als Grundprinzipien für die Gestaltung, Entwicklung und Nutzung von KI-Systemen werden in dem Übereinkommen folgende Anforderungen genannt:

  • Einhaltung des Grundsatzes der Gleichheit und Nichtdiskriminierung durch KI-Systeme;
  • Angemessener Schutz der von KI-Systemen verwendeten Daten (einschließlich personenbezogener Daten);
  • Gewährleistung der Rechenschaftspflicht und der rechtlichen Haftung für Schäden oder Menschenrechtsverletzungen, die durch ein KI-System verursacht werden;
  • Einführung von Überwachungsmechanismen sowie Anforderungen an die Transparenz und Möglichkeit der Durchführung einer Prüfung von KI-Systemen;
  • Erfüllung der einschlägigen Sicherheitsanforderungen (einschließlich Datenqualität, -integrität und -sicherheit sowie Cybersicherheit und Widerstandsfähigkeit des KI-Systems);
  • Sicherung einer kontrollierten regulatorischen Umgebung fürs Testen von KI-Systemen unter Aufsicht der zuständigen Behörden.

Darüber hinaus sollten die Vertragsparteien des Übereinkommens digitale Kompetenzen unterstützen und fördern, und sich ferner dafür einsetzen, dass grundlegende Fragen im Zusammenhang mit der Gestaltung, Entwicklung und Nutzung von KI-Systemen Gegenstand einer angemessenen öffentlichen Diskussion und multilateralen Abstimmungen werden.

Im Hinblick auf Maßnahmen und Sicherheitsvorkehrungen zur Gewährleistung der Rechenschaftspflicht und der Möglichkeit der Entschädigung für durch den Betrieb eines KI-Systems verursachte Schäden, sieht das Übereinkommen folgende Anforderungen vor:

  • Einführung eines Mechanismus zur Aufzeichnung des Betriebs von KI-Systemen und Weitergabe der aufgezeichneten Informationen an die von einem KI-System betroffenen Stellen;
  • Gewährleistung, dass diese Informationen ausreichende Daten enthalten, um die Anwendung des KI-Systems oder die getroffene Entscheidung wirksam anzufechten;
  • Sicherung wirksamer Rechtsbehelfsmechanismen;
  • Gewährleistung, dass wenn ein KI-System wesentliche Informationen bereitstellt oder Entscheidungen trifft, die Menschenrechte beeinflussen, das Recht auf menschliche Kontrolle einer solchen Entscheidung bestehen wird;
  • Sicherstellung, dass jede Person das Recht hat, zu wissen, dass sie mit einem KI-System interagiert;
  • Gewährleistung, dass jede Person – gegebenenfalls – zusätzlich zu bzw. anstelle eines KI-Systems mit einem Menschen interagieren kann.

Zugleich ist darauf hinzuweisen, dass Einschränkungen bei der Ausübung vorstehend genannter Rechte eingeführt werden können, wenn dies zur Verfolgung des berechtigten öffentlichen Interesses erforderlich und verhältnismäßig sein wird.

Ferner wird mit dem Übereinkommen eine Reihe detaillierter Verpflichtungen in Bezug auf KI-Systeme eingeführt, die von den öffentlichen Behörden oder für die Lieferung von Waren und Dienstleistungen verwendet werden.

Vergleich des Übereinkommens und der KI-Verordnung

Es unterliegt keinem Zweifel, dass die im Übereinkommen enthaltenen Regelungen als Rahmen gedacht sind und grundsätzlich weniger detailliert sind als die Vorschriften der europäischen KI-Verordnung. Die beiden Rechtsakte werden jedoch viel gemeinsam haben. Sie sollen dem Schutz von Menschenrechten in einer Zeit der raschen Entwicklung von KI-gestützten Lösungen einen soliden Standard bieten – sie verweisen auf viele ähnliche Risiken und schlagen viele ähnliche Lösungen vor. In beiden Rechtsakten wird auch ein risikobasierter Ansatz verfolgt.

Zwischen dem Entwurf des Übereinkommens und der KI-Verordnung gibt es aber auch wesentliche Unterschiede. Kraft des Übereinkommens werden die Staaten verpflichtet, während die KI-Verordnung einzelnen Personen (natürlichen und juristischen Personen) bestimmte Verpflichtungen direkt auferlegen wird. Die Definition des KI-Systems gemäß dem Übereinkommen wird möglicherweise weiter gefasst sein als in der KI-Verordnung. Darüber hinaus sieht das Übereinkommen an vielen Stellen die Einführung weitreichenderer Verpflichtungen vor als die entworfene KI-Verordnung. Dies gilt insbesondere für die im Übereinkommen vorgesehene Notwendigkeit, das Recht auf menschliche Kontrolle der von einem KI-System getroffenen Entscheidungen zu garantieren und sicherzustellen, dass jede Person zusätzlich zu bzw. anstelle eines KI-Systems mit einem Menschen interagieren kann.

Das bedeutet, dass selbst nach der Verabschiedung und dem Inkrafttreten der KI-Verordnung, die vollständige Einhaltung der Bestimmungen der EU-Verordnung nicht unbedingt garantieren wird, dass alle rechtlichen Anforderungen an den Entwurf, die Entwicklung und die Nutzung von KI-Systemen erfüllt werden.

Die Zukunft des Übereinkommens

Der endgültige Text des Übereinkommens soll im September 2023 fertiggestellt werden. Es wird erwartet, dass es im November 2023 dem Ministerkomitee des Europarates vorgelegt wird. Derzeit ist jedoch unklar, ob dieser Plan erfüllt wird und wann der endgültige Text des Übereinkommens verabschiedet wird. Sobald dies geschehen ist, wird das Übereinkommen am ersten Tag des Monats in Kraft treten, der auf den Ablauf von drei Monaten nach dem Tag folgt, an dem sechs Staaten (darunter mindestens vier Mitgliedstaaten des Europarates) dem Übereinkommen zugestimmt haben – d. h. es ratifiziert, angenommen oder genehmigt haben. Derzeit ist jedoch nicht bekannt, welche Länder sich für den Beitritt zu dem Übereinkommen entscheiden werden und wie schnell sie dessen Bestimmungen in ihre Rechtsordnungen umsetzen werden. Das Übereinkommen sieht nämlich keine Frist für die vollständige Umsetzung vor.

[1] https://rm.coe.int/cai-2023-01-revised-zero-draft-framework-convention-public/1680aa193f

[2] “Artificial intelligence system” means any algorithmic system or a combination of such systems that, as defined herein and in the domestic law of each Party, uses computational methods derived from statistics or other mathematical techniques to carry out functions that are commonly associated with, or would otherwise require, human intelligence and that either assists or replaces the judgment of human decision-makers in carrying out those functions. Such functions include, but are not limited to, prediction, planning, classification, pattern recognition, organisation, perception, speech/sound/image recognition, text/sound/image generation, language translation, communication, learning, representation, and problem-solving.