Gesetz über Künstliche Intelligenz kommt
Brüssel, 9. Dezember 2023 – Die Verhandler des Europäischen Parlaments und des Europäischen Rates haben eine vorläufige Einigung über das „Gesetz über Künstliche Intelligenz“ erzielt. Diese Verordnung soll sicherstellen, dass die Grundrechte, die Demokratie, die Rechtsstaatlichkeit und die ökologische Nachhaltigkeit vor risikoreicher KI geschützt werden, während gleichzeitig die Innovation gefördert und Europa zu einem Vorreiter in diesem Bereich gemacht wird. Die Vorschriften legen Verpflichtungen für KI fest, die sich nach den potenziellen Risiken und dem Ausmaß ihrer Auswirkungen richten.
In Anerkennung der potenziellen Bedrohung der Bürgerrechte und der Demokratie durch bestimmte Anwendungen von KI haben sich die Mitgesetzgeber darauf geeinigt, folgende Anwendungen zu verbieten:
- biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. politische, religiöse oder philosophische Überzeugungen, sexuelle Orientierung, etc.);
- das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsanlagen zur Erstellung von Gesichtserkennungsdatenbanken;
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen;
- Soziales Scoring auf der Grundlage von Sozialverhalten oder persönlichen Merkmalen;
- KI-Systeme, die das menschliche Verhalten manipulieren, um den freien Willen des Menschen zu umgehen;
- KI, die eingesetzt wird, um die Schwächen von Menschen (aufgrund ihres Alters, einer Behinderung, ihrer sozialen oder wirtschaftlichen Lage) auszunutzen.
- Ausnahmen für die Strafverfolgung
Die Verhandlungsführer einigten sich auf eine Reihe von Sicherheitsvorkehrungen und engen Ausnahmen für den Einsatz biometrischer Identifizierungssysteme (RBI) in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, vorbehaltlich einer vorherigen richterlichen Genehmigung und für streng definierte Listen von Straftaten. Die “Post-Remote”-RBI würde ausschließlich bei der gezielten Suche nach einer Person eingesetzt, die verurteilt wurde oder im Verdacht steht, eine schwere Straftat begangen zu haben.
Die “Echtzeit”-RBI würde strengen Bedingungen unterliegen und ihr Einsatz wäre zeitlich und örtlich begrenzt, und zwar für folgende Zwecke
- gezielte Durchsuchung von Opfern (Entführung, Menschenhandel, sexuelle Ausbeutung),
- zur Abwehr einer konkreten und gegenwärtigen terroristischen Bedrohung oder
die Lokalisierung oder Identifizierung einer Person, die im Verdacht steht, eine der in der Verordnung genannten Straftaten begangen zu haben (z. B. Terrorismus, Menschenhandel, sexuelle Ausbeutung, Mord, Entführung, Vergewaltigung, bewaffneter Raubüberfall, Beteiligung an einer kriminellen Vereinigung, Umweltkriminalität).
Für KI-Systeme, die als hochriskant eingestuft werden (aufgrund ihres erheblichen Schadenspotenzials für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit), wurden klare Verpflichtungen vereinbart. Den Abgeordneten gelang es, unter anderem eine obligatorische Folgenabschätzung für die Grundrechte einzuführen, die auch für den Versicherungs- und Bankensektor gilt. KI-Systeme, die zur Beeinflussung des Wahlergebnisses und des Wählerverhaltens eingesetzt werden, werden ebenfalls als hochriskant eingestuft. Die Bürgerinnen und Bürger haben das Recht, sich über KI-Systeme zu beschweren und Erklärungen zu Entscheidungen zu erhalten, die auf KI-Systemen mit hohem Risiko beruhen und ihre Rechte beeinträchtigen.
Um dem breiten Aufgabenspektrum von KI-Systemen und der raschen Ausweitung ihrer Fähigkeiten Rechnung zu tragen, wurde vereinbart, dass general-purpose AI (GPAI) und die GPAI-Modelle, auf denen sie beruhen, den ursprünglich vom Parlament vorgeschlagenen Transparenzanforderungen genügen müssen. Dazu gehören die Erstellung einer technischen Dokumentation, die Einhaltung des EU-Urheberrechts und die Verbreitung detaillierter Zusammenfassungen über die für die Ausbildung verwendeten Inhalte.
Für GPAI-Modelle mit hohem systemischem Risiko konnten die Verhandlungsführer des Parlaments strengere Auflagen durchsetzen. Wenn diese Modelle bestimmte Kriterien erfüllen, müssen sie Modellevaluierungen durchführen, systemische Risiken bewerten und abschwächen, Gegentests durchführen, der Kommission über schwerwiegende Vorfälle berichten, Cybersicherheit gewährleisten und über ihre Energieeffizienz berichten. Die Abgeordneten bestanden auch darauf, dass GPAIs mit systemischen Risiken bis zur Veröffentlichung harmonisierter EU-Standards auf Verhaltenskodizes zurückgreifen können, um die Verordnung einzuhalten.
Die Abgeordneten wollten sicherstellen, dass Unternehmen, insbesondere KMU, KI-Lösungen ohne unangemessenen Druck von Branchenriesen, die die Wertschöpfungskette kontrollieren, entwickeln können. Zu diesem Zweck fördert die Vereinbarung so genannte regulatorische Sandkästen und Praxistests, die von nationalen Behörden eingerichtet werden, um innovative KI zu entwickeln und zu trainieren, bevor sie auf den Markt gebracht wird.
Nach der Einigung sagte der italienische Ko-Berichterstatter Brando Benifei: “Es war ein langer und intensiver Prozess, aber die Mühe hat sich gelohnt. Dank der Hartnäckigkeit des Europäischen Parlaments wird die weltweit erste horizontale Gesetzgebung zur künstlichen Intelligenz das europäische Versprechen einlösen und sicherstellen, dass die Rechte und Freiheiten im Mittelpunkt der Entwicklung dieser bahnbrechenden Technologie stehen.“
Der rümänische Mitberichterstatter Dragos Tudorache ergänzte: “Die EU ist weltweit die erste, die eine solide Regulierung der KI eingeführt hat, die ihre Entwicklung und Weiterentwicklung in eine auf den Menschen ausgerichtete Richtung lenkt. Das KI-Gesetz legt Regeln für große, leistungsstarke KI-Modelle fest, die sicherstellen, dass sie keine systemischen Risiken für die Union darstellen, und bietet unseren Bürgerinnen und Bürgern und unseren Demokratien einen starken Schutz vor jeglichem Missbrauch der Technologie durch öffentliche Stellen”.
Die Nichteinhaltung der Vorschriften kann zu Geldbußen führen, die je nach Verstoß und Größe des Unternehmens zwischen 35 Millionen Euro oder sieben Prozent des weltweiten Umsatzes und 7,5 Millionen oder 1,5 Prozent des Umsatzes liegen.
Der vereinbarte Text muss nun sowohl vom Parlament als auch vom Rat formell angenommen werden, um EU-Recht zu werden. Die Ausschüsse für Binnenmarkt und bürgerliche Freiheiten des Parlaments werden in einer der nächsten Sitzungen über die Vereinbarung abstimmen. Dies gilt aber als sicher. (EP-PD/IIM)