Die EU-Kommission hat am 21. April 2021 einen Vorschlag für einen europäischen Rechtsrahmen zur Regulierung Künstlicher Intelligenz (KI) veröffentlicht. Es ist die weltweit erste gesetzgeberische Initiative, einen verbindlichen Rechtsrahmen für die Entwicklung und Nutzung von KI-Systemen zu schaffen.
Im Februar 2020 hatte die Kommission bereits in einem Weißbuch zur Künstlichen Intelligenz ihre Strategie für die Europäische Union vorgelegt. Damit sollte insbesondere eine öffentliche Konsultation mit allen relevanten Stakeholdern angestoßen werden. In der damaligen Ausgabe unseres STATUS QUO haben wir vertiefend dargestellt, wie der im Weißbuch vorgestellte politische Rahmen KI stärken und die EU im weltweiten Wettbewerb an eine Spitzenposition bringen soll.
Dieses Ziel verfolgt die Kommission mit ihrem Verordnungsvorschlag nun weiter. Insbesondere möchte sie mit den Harmonisierungsregeln einen einheitlichen europäischen Markt für KI-Systeme schaffen. Durch die damit verbundene Rechtssicherheit verspricht sich die Kommission die Förderung von Innovationen und Investitionen in jene Schlüsseltechnologie. Eine Überregulierung soll dabei durch einen risikobasierten Ansatz verhindert werden: Je größer das Risiko, das von einem KI-System ausgeht, desto strenger die entsprechende Regulierung. Im Fokus der Regulierung stehen dabei KI-Systeme, die als „Hoch-Risiko-Anwendung“ eingestuft werden, wie zum Beispiel Programme zur Bewertung der Kreditwürdigkeit von Bürgern. KI-Systeme mit minimalem oder begrenztem Risiko sollen dagegen weitgehend von strengen Vorgaben der Verordnung ausgenommen werden. Für Nutzungen von KI, die ein „inakzeptables Risiko“ mit sich bringen, schlägt die Kommission ein Verbot vor. Das Vorliegen eines solchen Risikos sieht sie vor allem in der Missachtung von oder dem Verstoß gegen Grundwerte und Grundrechte der Union. Dem Vorschlag zufolge fiele hierunter etwa ein KI-basiertes Social-Scoring-System, wie es in China praktiziert wird, sowie die unterschwellige Beeinflussung durch KI-Systeme, die zur Diskriminierung bestimmter Gruppen oder zu physischen wie psychischen Schäden führen kann.
Der Kommissionsvorschlag stößt damit den europäischen Gesetzgebungsprozess unmittelbar an und wird nun auf europäischer Ebene intensiv diskutiert werden. Denn damit die Verordnung in Kraft treten kann, bedarf es noch der Zustimmung des Europäischen Parlaments und des Europäischen Rates.
Zu dem Vorschlag der EU-Kommission geht es hier.
