EU-Parlament stimmt für KI-Gesetz
Das EU-Parlament hat dem KI-Gesetz mit überwältigender Mehrheit zugestimmt. Was das Gesetz genau regelt, worin seine Chancen bestehen, aber auch wo die Risiken liegen, erfahren sie in diesem Blogbeitrag.
Mit einer eindeutigen Mehrheit hat das EU-Parlament am Mittwoch, den 13.03.2024, für das KI-Gesetz gestimmt. Von den anwesenden Abgeordneten stimmten 523 dafür, 46 dagegen und 49 weitere enthielten sich.
Nach der Abstimmung wurde von dem weltweit ersten, umfassenden Gesetz zur Regelung von Künstlicher Intelligenz gesprochen, der zuständige Kommissar Thierry Breton bezeichnete es sogar als „historisch“. Das Gesetz hat die klare Zielsetzung, eine „ausgewogene“ Regelung zum Umgang mit Künstlicher Intelligenz zu treffen, wobei vor Missbrauch geschützt werden soll, aber gleichzeitig neue Innovationen ermöglicht werden sollen. KI-Systeme sollen für die Gesellschaft innerhalb der Europäischen Union sicherer, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sein. Außerdem ist eine menschliche Überwachung von KI vorgesehen. Das Gesetz richtet sich an alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen, wobei sowohl öffentliche als auch private Akteure miteinbezogen werden.
Unter Künstlicher Intelligenz (KI) versteht man ganz allgemein Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen analysiert und daraufhin menschenähnliche Denk- und Entscheidungsprozesse nachahmt.
Die konkreten Regelungen
Das Gesetz sieht eine Unterteilung von KI-Systemen in ein vierstufiges Risikosystem vor: je höher das Risiko des Missbrauchs eines KI-Systems ist, desto strengere Regeln sollen für dessen Verwendung gelten. Wenn ein System also ein geringes Risiko für die Gesellschaft darstellt, darf diese KI von Unternehmen mit geringen Regulierungen verwendet werden.Bei einer Anwendung von KI in den Bereichen Bildung, Verkehr oder Medizin wird grundsätzlich ein höheres Risiko für die Gesellschaft angenommen. Dies zeigt sich am Beispiel von Schulnoten, die durch den Einsatz von KI beeinflusst werden können. Um in diesen Bereichen also KI nutzen zu dürfen, müssen die Unternehmen die Systeme selbst prüfen und vom Staat überprüfen lassen.
Es gibt auch allgemeine Verbote, wie die Bewertung von sozialem Verhalten („Social Scoring“), wie sie schon in China eingesetzt wird und das die Bürger in Verhaltenskategorien einteilt. Auch eine Emotionserkennung am Arbeitsplatz, mit denen Unternehmen die Gefühle ihrer Mitarbeiter erfassen können, ist in der EU künftig nicht zulässig.
Ein viel diskutierter Punkt war die biometrische Gesichtserkennung, vor allem im öffentlichen Raum durch Polizei und Sicherheitsbehörden. Hier ist die Vorgabe, dass Systeme, die Menschen aufgrund ihrer Hautfarbe, Religion oder sexuellen Orientierung einteilen, verboten sind. Genauso verhält es sich beim ungezielten Auslesen von Bildern aus dem Internet oder aus Überwachungskameras für die Aufstellung in Datenbanken. Für die Polizei gibt es eine Ausnahme, womit ihnen die biometrische Identifizierung im öffentlichen Raum in Echtzeit erlaubt ist, wenn sie z.B. einen Anschlag verhindern will oder Opfer von Menschenhandel sucht.
Allgemein müssen nach den Vorgaben des Gesetzes künftig alle Inhalte, die mit KI erstellt werden, als solche gekennzeichnet werden.
Kritikerstimmen sehen zu strenge Regeln
Während gerade die Befürworter des Gesetzes die positiven Aspekte immer wieder hervorheben, gibt es auf der anderen Seite ebenso kritische Stimmen.
So bringt Axel Voss (CDU) an, dass man jetzt nicht den Fehler machen darf, sich mit dem beschlossenen Gesetz zufrieden zu geben, sondern es einer konstanten Weiterentwicklung bedarf, die schneller als bei normalen Gesetzen stattfinden muss.
Auch die FDP-Abgeordnete Svenja Hahn befürchtet eine nicht gut ausgearbeitete Balance im jetzigen Gesetz. So merkt sie an, dass die geschaffenen Hürden von Bürokratie und Unklarheiten für große Unternehmen wesentlich leichter zu bewältigen sei als für kleinere Unternehmen. Sie fordert deswegen Klarheit durch die Umsetzung der Kommission, um eine Innovationsbremse zu verhindern.
Die Chancen des Gesetzes beziehen sich ebenfalls auf den größeren Bereich der Balance. So soll nach den Vorstellungen von Anita Klingel, eine Beraterin bei der Nutzung von KI für Bund, Länder und Gemeinden, das Siegel „Made in EU“ für vertrauenswürdige KI stehen. Auch Daniel Abbou, Geschäftsführer des KI Bundesverbands, hofft auf Besserung durch das Gesetz auf dem Bereich der Wettbewerbsgleichheit. Hier könnte jedoch die individuelle Umsetzung durch die Mitgliedsstaaten ein Problem darstellen.
Jahrelange Debatte findet Abschluss
Bereits seit 2021 wurde auf EU-Ebene über ein mögliches einheitliches KI-Gesetz diskutiert. Der große Streitpunkt, der auch nach dem Beschluss nicht vollständig geklärt sein dürfte, lag darin, eine gute Balance zwischen der Verhinderung von Missbrauch sowie der Möglichkeit für technischen Fortschritt zu finden. Erst im Dezember 2023 konnten sich die Mitgliedsstaaten und die EU-Kommission auf den nun beschlossenen Gesetzesentwurf einigen. Gerade in Deutschland und Frankreich hatte eine Zustimmung bis Ende Februar wegen Bedenken auf der Kippe gestanden.
Der Bundesminister für Digitales und Verkehr Volker Wissing (FDP) betonte nach einer Einigung innerhalb der Ampelkoalition, dass sie „Verbesserungen für kleine und mittlere Unternehmen“ erzielt hätten. Die Bundesregierung ist nach eigenen Angaben mit dafür verantwortlich, dass sogenannte Allzweck-KI wie ChatGPT nicht als Hochrisikoanwendung eingestuft würden und damit geringeren Auflagen unterliegen.
Ausblick
Als nächstes muss nun ein Votum der EU-Staaten erfolgen, welches für Ende April erwartet wird. Die Zustimmung zum Gesetz gilt jedoch nur noch als Formsache.
Daraufhin ist es an den Mitgliedsstaaten die Vorschriften aus dem Gesetz auf nationaler Ebene umsetzen, indem schrittweise verbotene Systeme außer Betrieb genommen werden und innerhalb von zwei Jahren dann alle Punkte umgesetzt werden. Außerdem müssen Sanktionen beschlossen werden und eine Beschwerdebehörde für Privatpersonen eingerichtet werden.
