…Die ersten von Regierungen unterzeichneten Grundsätze zu KI wurden im Mai 2019 von den OECD Mitgliedstaaten per Ratsempfehlung verabschiedet. Sie stellen auf die Förderung einer KI ab, die innovativ und vertrauenswürdig ist und die Menschenrechte und demokratische Werte achtet. Weitere wertbasierte Grundsätze einer verantwortungsvollen Steuerung von KI umfassen die Gewährleistung von Transparenz, von Robustheit und Sicherheit von KI-Systemen.
Als Teil ihrer digitalen Strategie hat die EU-KOM bereits im April 2021 den Verordnungsentwurf zu KI (AI-Act) vorgelegt. Die mittlerweile verbschiedete Verordnung soll bessere Bedingungen für die Entwicklung und Nutzung von KI schaffen. Danach werden KI-Systeme risikobasiert reguliert: KI-Systeme, die ein unannehmbares Risiko darstellen (wie Social Scoring oder biometrische Echtzeit-Fernidentifizierungssysteme) werden verboten. Sog. Hochrisiko-KI-Systeme, die ein hohes Risiko für Gesundheit und Sicherheit oder für Grundrechte natürlicher Personen darstellen, werden vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet. KI-Systeme mit begrenztem Risiko sollen minimale Transparenzanforderungen erfüllen, die es den Nutzern ermöglichen, fundierte Entscheidungen zu treffen. Generative Foundation-Modelle wie ChatGPT müssten zusätzliche Transparenzanforderungen erfüllen. Hierzu gehören z.B. die Offenlegung, dass Inhalte durch KI generiert wurden; Anforderungen an die Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt sowie die Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden.
Mit der formalen Verabschiedung des AI-Acts werden auf EU-Ebene die weltweit ersten verbindlichen Regeln für die Entwicklung und den Umgang mit KI festgeschrieben. Darüber hinaus wird derzeit auf EU-Ebene eine Richtlinie zur Haftung (AI Liability Directive) behandelt, die die EU-Kommission im September 2022 vorgelegt hat und die ein EU-weites einheitliches Schutzniveau für durch KI-Systeme verursachte Schäden schaffen soll. Des Weiteren wird die Produkthaftungsrichtlinie überarbeitet, die die bestehenden Haftungsvorschriften modernisieren und auf digitale Produkte ausdehnen soll (z.B. bei Schäden durch Roboter, Drohnen oder Smart-Home-Systeme durch Software-Updates, KI oder digitale Dienste). Für beide Richtlinienvorschläge ist das Gesetzgebungsverfahren anhängig.
Auch die US-amerkanische Regierung hat Ende Oktober 2023 ein umfangreiches Dekret zur Regulierung von KI verabschiedet (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence). Anbieter von KI sollen fortan zu Sicherheitstests verpflichtet sein. KI, die Risiken für die nationale Sicherheit sowie die öffentliche Gesundheit und Sicherheit darstellen kann, soll überprüft werden können. Bislang setzten die USA beim Schutz vor den Risiken von KI vor allem auf freiwillige Selbstkontrolle der anbietenden Unternehmen. Nun muss KI-Software vor ihrer Vermarktung den Behörden vorgelegt werden, die diese testen. Das Handelsministerium soll Richtlinien für die Kennzeichnung von KI-generierten Inhalten erarbeiten. Bislang haben sich führende KI-Anbieter wie OpenAI (ChatGPT), Google oder Meta (Facebook) freiwillig dazu verpflichtet, solche Inhalte zu kennzeichnen.
Im November 2021 haben die 193 UNESCO-Mitgliedstaaten den ersten global gültigen Völkerrechtstext zur ethischen Entwicklung und Nutzung Künstlicher Intelligenz (KI) verabschiedet, die sog. „Empfehlung zur Ethik der Künstlichen Intelligenz“. Sie setzt einen Regulierungsrahmen für eine ethische Entwicklung und Nutzung von KI – sowohl für aktuelle als auch für zukünftige Anwendungsbereiche. Die Empfehlung gibt klare Handlungsaufträge für die Regierungen der UNESCO-Mitgliedstaaten in elf Politikfeldern, darunter Bildung, Kultur, Kommunikation, Arbeit und Gesundheit. Zuvor hatte die EU-Kommission im April 2019 bereits die „Ethischen Leitlinien für eine vertrauenswürdige Künstliche Intelligenz“ veröffentlicht. Sie definieren sieben Schlüsselanforderungen für eine vertrauenswürdige KI, wie Respekt für menschliche Autonomie, Vermeidung von Schäden, Fairness und Transparenz.
Melden Sie sich gerne unter: +49 221 420 748 00 oder info@frey.eu
Ihre Ansprechpartner: Prof. Dr. Dieter Frey und Dr. Hanno Magnus
