Rechtliche Grundlagen und mehr Kooperation sollen Sicherheit und Ausbau von Künstlicher Intelligenz in Europa ermöglichen

Mitte April stellte die Europäische Kommission ihre Vorschläge zur Regulierung von Künstlicher Intelligenz (KI) vor, die gleichzeitig das Potential dieser Zukunftstechnologie stärken soll. Ziel ist es, Europa zu einem globalen Zentrum für vertrauenswürdige KI auszubauen.

Exekutiv-Vizepräsidentin Margrethe Vestager bei der Vorstellung der Vorschläge Quelle: Europäische Kommission

Exekutiv-Vizepräsidentin Margrethe Vestager bei der Vorstellung der Vorschläge
Quelle: Europäische Kommission

Die EU-Behörde entwickelte dafür einen ihrer Auffassung nach weltweit erstmaligen Rechtsrahmen und modernisierte den koordinierten KI-Plan zur Zusammenarbeit mit den EU-Ländern. Die Regeln sollen für mehr Rechtssicherheit bei Unternehmen und für Transparenz sorgen, zwei Grundlagen für das Vertrauen von Nutzer*innen. Diese rechtlichen Vorgaben bilden nach Auffassung der Kommission die Voraussetzung, um den großen Zugewinn von KI unter anderem in Bereichen wie Gesundheit, Verkehr, Energie, Landwirtschaft, Tourismus oder Cybersicherheit vollständig zu nutzen.

Die zuständige Exekutiv-Vizepräsidentin Margrethe Vestager machte ihr zentrales Anliegen in der Pressekonferenz deutlich, in der sie gemeinsam mit dem Binnenmarktkommissar Thierry Breton das Maßnahmenpaket vorstellte. Bei künstlicher Intelligenz sei Vertrauen ein Muss und kein Beiwerk, sagte sie. Mit den wegweisenden Vorschriften stehe die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist und als solches wahrgenommen wird. So nutzte sie die Begriffe ethische Technik, Wettbewerbsfähigkeit, Vertrauenswürdigkeit, Zukunftssicherheit und Innovationsfreundlichkeit, um kurz zu beschreiben, was die neuen Maßnahmen für die Wirtschaft und Gesellschaft bedeuten. Die Vorschläge sind, darauf wies sie hin, das Ergebnis von drei Jahren Arbeit, begonnen mit der KI-Strategie, die in 2018 vorgelegt wurde. Die damals ebenfalls eingerichtete KI-Allianz habe mehr als 4.000 Stakeholder eingebunden, ergänzte sie. Eine High-Level-Fachgruppe erarbeitete Leitlinien zu dem Thema. Dies alles habe zu dem im letzten Jahr veröffentlichten Weißbuch beigetragen, gefolgt von den jetzt vorliegenden Vorschlägen. Die Kommission rechnet also mit einer breiten Zustimmung für ihren Ansatz, die sie vor allem von den Mitgliedstaaten und den Europaabgeordneten benötigt. Das Gesetz reguliert in erster Linie problematische und Hochrisiko-Technologien, nicht aber die Breite der KI. Es schreibt Prinzipien fest und nicht Bestimmungen für jeden möglichen Fall.

Deshalb steht das Risiko der Technologien im Mittelpunkt, Unterschieden wird hier zwischen KI-Systemen mit unannehmbaren, hohen, geringen und minimalen Risiken für die Grundrechte und das Wohlergehen der Menschen. Als Beispiele für unannehmbare Systeme werden z.B. solche genannt, die Kinder zu gefährlichen Handlungen verleiten oder Sozialverhalten bewerten, wie Social Scoring. Diese KI werden verboten.

KI-Systeme, die ein hohes Risiko bergen, unterliegen strengen Vorgaben, wenn diese in bestimmten Bereichen eingesetzt werden. Dazu gehören u.a. die kritischen Infrastrukturen, wichtige private und öffentliche Dienstleistungen, wie beispielsweise im Falle einer Bewertung der Kreditwürdigkeit, bei Karriereentscheidungen und dem Zugang zu Bildungsmaßnahmen, in der Gesundheitsversorgung, der Rechtspflege und bei demokratischen Prozessen.

01 Photo 2.jpg

Die vorgeschlagenen Regulierungen würden, wenn verabschiedet, KI-Produzenten in dieser Kategorie verpflichten, Folgendes sicher zu stellen:

  • angemessene Risikobewertungs- und Risikominderungssysteme

  • hohe Qualität der Datensätze, die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten

  • Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen

  • klare und angemessene Informationen für die Nutzer*innen

  • eine angemessene menschliche Aufsicht zur Minimierung der Risiken.

Der im Vorfeld bereits heftig diskutierte Einsatz von biometrischen Identifizierungssystemen im öffentlichen Raum wird verboten, wenn es nach der Kommission geht. Es sollen Ausnahmen zugelassen werden, die allerdings klar definiert sind. Die Suche nach einem vermissten Kind oder auch Situationen konkreter und unmittelbarer terroristischer Bedrohungen könnten nach Auffassung von Vestager zu solchen Ausnahmefällen gehören. 

Für KI mit geringen Risiken gelten besondere Transparenzverpflichtungen. So soll Verbraucher*innen bei der Anwendung von KI-Systemen wie Chatbots immer bewusstgemacht werden, dass sie es mit einer Maschine zu tun haben. Für den Bereich von KI mit einem minimalen Risiko – z.B. Videospiele oder Spamfilter -, zu der die große Mehrheit gehört, sieht der Legislativvorschlag keine Vorgaben vor.

Die Umsetzung und Anwendung des Gesetzes wird in der Verantwortung der nationalen Behörden liegen. Die EU-Verwaltung plant, einen Europäischen Ausschuss für Künstliche Intelligenz zu schaffen, der die Mitgliedstaaten unterstützt und Normen auf dem Gebiet der KI vorantreibt.

Mit dem gleichzeitig vorgeschlagenen Koordinierten Plan für KI soll erreicht werden, dass nationale KI-Vorhaben sowie EU-Fördermittel für öffentlich-private Partnerschaften und für Forschungs- und Innovationsnetze eng abgestimmt werden. Der Plan soll außerdem gewährleisten, dass die EU-Staaten und die Kommission in ihren Strategien bei globalen Problemen eine gemeinsame Linie fahren. Die EU-Behörde verspricht sich grundsätzlich von einer strukturierten Zusammenarbeit mehr Innovationen und Investitionen in KI-Spitzenleistungen in Europa.

Die Verhandlungen zwischen den EU-Institutionen werden einige Zeit brauchen, ähnlich wie bei den digitalen Dienstleistungsgesetzen. Besonders die Definition von Hochrisikos und Abgrenzungen zwischen den genannten Risikokategorien werden kontroverse Debatten auslösen. Das grundsätzliche Verbot der Gesichtserkennungsüberwachung wird im Rat möglicherweise nicht die Zustimmung aller finden, wobei die Mehrheit im EP strikte Regeln bei den Ausnahmen einfordern wird. Damit seien nur einige der vielfältigen potenziellen Streitpunkte genannt.

Ulrike Wisser