KI-Gesetz: Europäisches Parlament formuliert erstes Regelwerk

Während KI-Systeme wie ChatGPT nahezu täglich mit neuen Problemlösungen verblüffen, arbeitet man in der EU gerade daran, den weltweit ersten Vorschriften-Katalog für den Einsatz von Künstlicher Intelligenz zu erstellen. Erklärtes Ziel ist es, die „menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz“ zu garantieren.

Vorschlag der EU-Kommission verschärft

Im Europäischen Parlament hat man dafür nun ein erstes Papier erstellt, das als Grundlage für weitere Verhandlungen mit dem Europäischen Rat dienen wird und damit auf einen Vorschlag der EU-Kommission reagiert (PDF-Download) der den Parlamentariern des Binnenmarkt-Ausschusses nicht weit genug reichte.

So haben die Abgeordneten den Vorschlag der EU-Kommission, der bereits das Verbot von KI-Systemen für die Implementierung eines Social Scoring und für den Einsatz in Hochrisiko-Bereichen untersagte, um mehrere zusätzliche Punkte erweitert, die sicherstellen sollen, dass auch der diskriminierende Einsatz von KI-Systemen ausgeschlossen ist.

Kein Social Scoring, keine Diskriminierung

Nachdem der Vorschlag der EU-Kommission bereits vorsah, KI-Systeme mit einem inakzeptabel hohen Risiko für die Sicherheit von Menschen grundsätzlich zu verbieten, haben die Parlamentarier ihrerseits die berücksichtigen Geltungsbereiche um die Kategorien Gesundheit, Grundrechte, Sicherheit und Umwelt erweitert. Zudem sollen auch Empfehlungs-Algorithmen von Social-Media-Plattformen und der KI-Einsatz in politischen Kampagnen als Hochrisikobereiche gelten.

Ausdrücklich verboten werden, soll der Einsatz von KI-Systemen für diskriminierende oder aufdringliche Anwendungen. Dies betrifft nach Meinung der Parlamentarier unter anderem die folgenden sechs Bereiche:

• biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
• biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
• biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
• prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
• Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
• wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Der Entwurf des Verhandlungsmandates (PDF-Download) wurde von 84 der 103 Ausschuss-Abgeordneten angenommen und muss nun noch vom restlichen Parlament gebilligt werden, ehe auf seiner Grundlage Verhandlungen mit dem Europäischen Rat geführt werden können.