Rosalind Evans
Regierungen auf der ganzen Welt arbeiten eifrig an der Einführung von Vorschriften für künstliche Intelligenz (KI), wobei Europa in diesem Bereich die Führung übernimmt. Ein Ausschuss des Europäischen Parlaments hat dafür gestimmt, einen wichtigen Legislativvorschlag zur Schaffung von KI-Leitplanken zu stärken. Die Dringlichkeit, KI zu regulieren, hat zugenommen, da technologische Fortschritte wie ChatGPT die Vorteile und potenziellen Risiken dieses aufstrebenden Bereichs aufzeigen.
Werfen wir einen genaueren Blick auf das EU-Gesetz über künstliche Intelligenz:
Wie funktionieren die Regeln?
Das ursprünglich für 2021 vorgeschlagene KI-Gesetz soll alle Produkte und Dienstleistungen regeln, die ein KI-System nutzen. Das Gesetz stuft KI-Systeme in vier Risikostufen ein, die von minimal bis unannehmbar reichen. Für Anträge mit höherem Risiko gelten strengere Anforderungen, darunter Transparenz und die Verwendung genauer Daten. Im Wesentlichen wird damit ein Risikomanagementsystem für KI geschaffen, wie es Johann Laux, Experte am Oxford Internet Institute, beschreibt.
Was sind die Risiken?
Eines der Hauptziele der EU ist es, die Gefahren der KI für die Gesundheit, die Sicherheit und die Grundrechte und -werte zu mindern. Dies bedeutet, dass bestimmte Anwendungen von KI streng verboten sind. Verboten sind beispielsweise Systeme, die eine „soziale Wertung“ vornehmen, um Personen aufgrund ihres Verhaltens zu beurteilen. KI, die gefährdete Bevölkerungsgruppen wie Kinder ausnutzt oder unterschwellige Manipulationen vornimmt, die Schaden anrichten können, wie etwa ein interaktives Spielzeug, das zu gefährlichem Verhalten anregt, ist ebenfalls verboten.
Die Gesetzgeber haben den Vorschlag noch verschärft, indem sie für ein Verbot von Predictive Policing Tools stimmten, die Daten analysieren, um Verbrechen und potenzielle Täter vorherzusagen. Außerdem wurde das Verbot der Gesichtserkennung aus der Ferne ausgeweitet, mit einigen Ausnahmen für Strafverfolgungszwecke, z. B. zur Abwehr bestimmter terroristischer Bedrohungen. Diese Technologie scannt die Gesichter von Menschen in der Öffentlichkeit und gleicht sie mithilfe von KI mit einer Datenbank ab.
Ziel ist es, das Entstehen einer auf KI basierenden Überwachungsgesellschaft zu verhindern, wie Brando Benifei, ein italienischer Gesetzgeber, der die KI-Bemühungen des Europäischen Parlaments leitet, erklärte. Die mit diesen Technologien verbundenen Risiken werden als zu hoch angesehen.
Für KI-Systeme, die in Hochrisikobereichen wie Beschäftigung und Bildung eingesetzt werden, die das Leben des Einzelnen erheblich beeinflussen können, gelten strenge Anforderungen. Zu diesen Anforderungen gehören Transparenz gegenüber den Nutzern und die Durchführung von Risikobewertungs- und -minderungsmaßnahmen.
So werden beispielsweise Videospiele und Spamfilter von der EU-Exekutive als KI-Systeme mit geringem oder gar keinem Risiko eingestuft.
Was ist mit ChatGPT?
Der ursprüngliche Vorschlag, der 108 Seiten umfasste, erwähnte Chatbots kaum und verlangte lediglich, sie als solche zu kennzeichnen, damit die Nutzer wissen, dass sie mit einer Maschine interagieren. In die Verhandlungen wurden später Bestimmungen aufgenommen, die KI für allgemeine Zwecke, wie ChatGPT, einbeziehen und sie einigen der gleichen Anforderungen unterwerfen wie Hochrisikosysteme.
Ein bemerkenswerter Zusatz ist die Anforderung, urheberrechtlich geschütztes Material, das zum Trainieren von KI-Systemen verwendet wird, um Texte, Bilder, Videos oder Musik zu erzeugen, die menschlicher Arbeit ähneln, umfassend zu dokumentieren. Diese Bestimmung ermöglicht es den Urhebern von Inhalten festzustellen, ob ihre Werke zum Trainieren von Algorithmen verwendet wurden, die Systeme wie ChatGPT antreiben, so dass sie bei einer möglichen Urheberrechtsverletzung Rechtsmittel einlegen können.
Warum sind die EU-Vorschriften so wichtig?
Auch wenn Europa bei der Entwicklung von KI nicht an vorderster Front steht, setzt die Europäische Union oft Trends mit Vorschriften, die de facto zu globalen Standards werden. Wie Johann Laux erklärt, ist es aufgrund der großen Bevölkerungszahl und des relativen Wohlstands in Europa für Unternehmen und Organisationen attraktiv, die EU-Vorschriften einzuhalten, anstatt unterschiedliche Produkte für verschiedene Regionen zu entwickeln.
Die EU will nicht nur regulieren, sondern auch das Vertrauen der Nutzer stärken, indem sie Standardregeln für KI aufstellt. Indem sie Vertrauen in die KI und ihre Anwendungen schafft, hofft die Europäische Union, ihre breite Nutzung zu fördern und das wirtschaftliche und soziale Potenzial der KI zu erschließen.
Was sind die Konsequenzen bei Regelverstößen?
Verstößt ein Unternehmen gegen die KI-Vorschriften, kann es mit einer Geldstrafe in Höhe von 30 Millionen Euro (33 Millionen US-Dollar) oder 6 % seines weltweiten Jahresumsatzes belegt werden, was für Tech-Giganten wie Google und Microsoft mehrere Milliarden Euro bedeutet.
Was kommt als Nächstes?
Die vollständige Umsetzung der Vorschriften kann mehrere Jahre dauern. Eine Plenarsitzung der EU-Gesetzgeber ist für Mitte Juni zur Abstimmung über den Gesetzesentwurf vorgesehen.
Danach werden die 27 Mitgliedstaaten, das Parlament und der Exekutivausschuss die Gesetzgebung in einem dreiseitigen Prozess verhandeln. Während dieses Prozesses können weitere Anpassungen und Änderungen vorgenommen werden, während sie über die Details nachdenken.
Es ist zu hoffen, dass die Rechtsvorschriften bis Ende des Jahres oder spätestens Anfang 2024 verabschiedet werden. Danach haben die Unternehmen und Organisationen eine Frist zur Anpassung, die in der Regel etwa zwei Jahre beträgt.
Die proaktive Haltung der Europäischen Union bei der Regulierung von KI ist nicht nur für Europa, sondern auch auf globaler Ebene von Bedeutung. Durch die Festlegung umfassender Leitlinien und Vorschriften will Europa ein Gleichgewicht zwischen der Nutzung des Potenzials der KI und dem Schutz der Rechte, der Sicherheit und des Wohlergehens des Einzelnen herstellen. Diese Verordnungen können als Modell für andere Regionen dienen, die sich mit KI-Governance auseinandersetzen, und machen Europa zu einem Trendsetter in diesem Bereich.
Angesichts des raschen Fortschritts der KI bilden die europäischen Bemühungen um den Aufbau von Leitplanken für diese Technologie eine wichtige Grundlage für eine verantwortungsvolle und ethische KI-Entwicklung. Indem sie den Nutzern Vertrauen einflößen, sollen diese Vorschriften ein Umfeld schaffen, in dem KI gedeihen kann, und gleichzeitig die Gesellschaft vor potenziellen Risiken schützen und die Achtung der Grundrechte und -werte gewährleisten.
