Digitalkommissarin Vestager fordert hohe Standards für KI in öffentlichen Bereichen
In einem Austausch Mitte Januar mit einigen Mitgliedern des EU-Parlaments über die anstehende Regulierung von Technologien der künstlichen Intelligenz (KI) formulierte die für Digitalpolitik zuständige Kommissarin Margrethe Vestager ihre Erwartungen an die Politik. Der vom Mediennetzwerk Euractiv dazu veröffentlichte Bericht stellt heraus, dass Vestager bei dem Thema nicht mit allen EU-Staaten eins ist. Künstliche Intelligenz, die im öffentlichen Sektor eingesetzt wird, müsse „besonders hohe Standards in Bezug auf Transparenz und Rechenschaftspflicht erfüllen“, lautet ihre Forderung. So sieht sie den Einsatz bestimmter KI-Technologien, wie etwa der Gesichtserkennung, kritisch. Gesichtserkennung könnte in einer Weise eingesetzt werden, die ernsthafte Bedenken in Bezug auf den Datenschutz, aber auch auf grundlegende Werte wie das Versammlungsrecht aufwerfen würde, argumentiert sie.
Die Europäische Kommission sieht vor, ein Weißbuch zu dem Themenfeld der Künstlichen Intelligenz am 19. Februar vorzulegen. Weißbücher der Europäischen Kommission enthalten in der Regel Vorschläge für Maßnahmen der EU in einem bestimmten Bereich. Der Zweck eines Weißbuchs ist es, eine Debatte in der Öffentlichkeit, bei Interessengruppen und den anderen EU-Institutionen, wie Parlament und Rat in Gang zu bringen. Über diesen Weg soll frühzeitig ein politischer Konsens angestrebt werden. Dieses Vorgehen wählt die Kommission auch für das komplexe Thema der Künstlichen Intelligenz. Von einer breiten Auseinandersetzung verspricht sie sich Orientierung für einen Gesetzgebungsvorschlag zur Regulierung.
Das Weißbuch wird neben der Frage nach KI im öffentlichen Raum auch Aspekte der Qualität und Rückverfolgbarkeit von Daten erhalten. Dies könnte bedeuten, so Euractiv, dass Unternehmen in Zukunft möglicherweise mehr Informationen über die Algorithmen ihrer KI-Technologien sowie über die Datenmassen, die die Anwendungen sammeln, vorlegen müssen. Die Kommission strebt auch an, dass die Transparenz über die Fähigkeiten und über die Grenzen künstlicher intelligenter Systeme gewährleistet wird. Transparenz sei besonders bei der Interaktionen eines Menschen mit einem KI-Gerät wichtig. Eine Person, die ein KI-System betreibt, müsse sich der entsprechenden Technologien und ihrer Möglichkeiten voll bewusst sein können, unterstreicht Vestager. Sie weist darauf hin, dass KI auch heute schon bestehenden EU-Regeln unterliegen, die „hohe Standards in den Bereichen Datenschutz, Privatsphäre, Nicht-Diskriminierung und Haftungsregeln für Produktsicherheit gewährleisten“.
In der Regulierungsfrage wird sich die Europäische Kommission möglicherweise auch an den Leitlinien zum ethischen Umgang mit KI orientieren. Eine speziell für das Thema eingesetzte Expertengruppe aus Wissenschaft, Wirtschaft und Zivilgesellschaft hatte an Eckpunkten und Vorschlägen für ethische Leitlinien im Jahr 2018 gearbeitet. Diese wurden anschließend öffentlich diskutiert. Die Ergebnisse flossen dann in eine neue Fassung von Überlegungen zu Leitlinien ein. Der diesbezügliche Bericht nennt u.a. Anforderungen für einen auf Menschen ausgerichteten Ansatz in der Entwicklung und Anwendung von KI. Solche sogenannten vertrauenswürden KI zeichnen sich nach Auffassung der Arbeitsgruppe durch Folgendes aus:
Sie sind rechtmäßig und stellen die Einhaltung aller geltenden Gesetze und Vorschriften sicher.
Sie sind ethisch und stellen die Einhaltung ethischer Grundsätze und Werte sicher.
Sie sind sowohl aus technischer als auch aus sozialer Sicht robust, damit sichergestellt ist, dass KI-Systeme auch bei guten Absichten keinen unbeabsichtigten Schaden anrichten.
Eine aktuelle Liste von Leitlinien ist für Anfang 2020 angekündigt. Diese wird möglicherweise Teil des Weißbuches der Europäischen Kommission sein.
Der Ausschuss des Europäischen Parlaments für Binnenmarkt und Verbraucherschutz hat sich ebenfalls zu KI und automatisierter Entscheidungsfindung aus Sicht der Verbraucherrechte positioniert. Sie fordern in ihrer im Januar angenommenen Resolution starke Schutzrechte, begrüßen aber auch eindeutig die Potentiale von KI und automatisierter Entscheidungsfindung. Bürger und Bürgerinnen sollen angemessen darüber informiert sein, wie das jeweilige System funktioniert, wie Entscheidungen überprüft und verändert werden können und wie Personen mit Entscheidungsbefugnis im System erreichbar sind. Für die Abgeordneten muss der Grundsatz gewährleistet sein, dass Menschen immer die Verantwortung in automatisierter Entscheidungsfindung übernehmen und Entscheidungen von Systemen aufheben können. Dies gelte besonders bei Inhalten in den Bereichen Gesundheit, Recht, Rechnungswesen und Banken. Der Ausschuss fordert die Kommission auf, bestehende Sicherheits- und Haftbarkeitsregeln auf Produkte der Künstlichen Intelligenz anzupassen. Er spricht sich für einen europäischen Plan aus, durch den das Risiko von KI und von automatisierten Verfahren bewertet wird.