Unabhängige Expertengruppe legt sektorspezifische Empfehlungen für vertrauenswürdige KI vor

Eine Mitte 2018 von der Europäischen Kommission ins Leben gerufene Expertengruppe zu vertrauenswürdige Künstliche Intelligenz (KI) legte Mitte Juli dieses Jahres sektorspezifische Empfehlungen für die drei Bereiche Gesundheitsversorgung, staatliches Handeln und Produktion vor.

Dieses neue Gutachten baut auf den im letzten Jahr von der sogenannten „High-Level Expert Group on Artificial Intelligence (AI HLEG)“ erarbeiteten Politik- und Investitionsempfehlungen für die Förderung von vertrauenswürdiger KI auf. Vertrauenswürdige KI muss nach Auffassung der AI HLEG drei zentralen Anforderungen genügen, sie müssen rechtmäßig, ethisch und technisch robust und sicher sein. Eine ausführlichere Beschreibung ihres Verständnisses zu diesen wesentlichen Merkmalen haben die Spezialist*innen in ihren Ethik-Leitlinien ausgeführt. Beide Fachpapiere sind dafür gedacht, das Verständnis der EU-Institutionen zu dem Konzept der Vertrauenswürdigkeit in der KI-Politik zu stärken und Hinweise für eine diesbezügliche Politikgestaltung zu liefern.

Um die allgemeineren ersten Empfehlungen für die drei Bereiche Gesundheit, Governance und Produktion zu spezifizieren, führte das Gremium im Frühjahr 2020 virtuelle Workshops mit Akteuren aus diesen Sparten durch. Die Ergebnisse sind in dem Dokument “Sectorial considerations on the policy and investment recommendations for trustworthy artificial intelligence” festgehalten, dass jetzt vorliegt.

Im Workshop zum Gesundheitssektor lag der Fokus nach Auskunft der Veranstalter auf Fragen in  Zusammenhang mit dem Schutz von Menschen und der Gesellschaft, zu Forschung, Kompetenzentwicklung, zur Datennutzung, notwendigen Regulierungen und zum Thema Privatwirtschaft.

Nicht überraschend, wird als ein Resultat aus dem Workshop darauf hingewiesen, dass bei der Entwicklung und Festlegung von Rahmenbedingungen für KI den besonderen Sensibilitäten im Gesundheitswesen Rechnung zu tragen sei. So wurde angeregt, über einen Mechanismus nachzudenken, durch den sichergestellt wird, dass Entwickler*innen von KI-Systemen in dem Bereich auch nachweisbar über die notwendige Gesundheitskompetenz verfügen. Weiterbildung wird als wesentlich erachtet, um den Nutzen von vertrauenswürdiger KI für diesen Sektor zu stärken. Dafür seien Investitionen nötig. So müssten Anwender*innen von KI in der praktischen Gesundheitsversorgung dahingehend ausgebildet werden, dass sie die Grenzen und Risiken von KI-Einsatz verstehen. Sie müssten die Möglichkeit haben, die für eine Einschätzung und Bewertung von neuen Technologien, Entscheidungen und Beratungsinhalten notwendige Kompetenz aufbauen zu können. Hier wird besonders an Ärzte und Pflegepersonal gedacht, die in der Regel auch die Sicht von Patient*innen einbringen.  

Das Gremium empfiehlt nuancierte rechtliche Regelungen für den Gesundheitssektor, wofür es eine gründliche Analyse der rechtlichen Anforderungen bei der Nutzung von KI fordert. Außerdem sprechen sich die Mitglieder allgemein für eine partizipative Gestaltung des Feldes aus. Sowohl bei der Festlegung eines politischen Rahmens als auch bei der allgemeinen KI-Weiterentwicklung müssen ihrer Einschätzung nach gerade im Gesundheitsbereich alle Interessengruppen einbezogen werden, von Patientengruppen und Verbraucher*innen, über Unternehmen, Krankenversicherungen,  Fachkräfte und Gesundheitsbehörden. So wurde aus dem Workshop konkret angeregt, eine Interessengruppen-Allianz für den Gesundheitsbereich in Erwägung zu ziehen, um eine solche kontinuierliche Beteiligung auf EU-Ebene zu gewährleisten.

Natürlich wurde auch das Thema Daten und Datensicherheit besprochen, weil es für den Bereich eine große Rolle spielt. Für Gesundheitsdaten werden höchste Qualitätsstandards und Integritätsprüfungen gefordert, wenn diese bei vertrauenswürdiger KI verwendet werden. Zum europäischen Datenraum gibt es eine Reihe von Empfehlungen für nächste Schritte. So sollten medizinische Datenstandardisierungen und Zertifizierungen für KI-Lösungen erforscht werden. Die Einführung von Datenspende-Programmen und eine kuratierte Nutzung von Daten in Europa werden angeregt. Letzteres soll den Zugang zu einem gemeinsamen Pool von Gesundheitsdaten und eine dezentrale Nutzung ermöglichen.

Die High-Level Gruppe bekräftigt in ihrem Bericht, wie wichtig und entscheidend ein sektorbezogener Blick auf KI ist. Die Politik auf EU-Ebene und in den Mitgliedstaaten müsse diesen Grundsatz aufnehmen, drängt sie und empfiehlt tiefergehende Untersuchungen zu diesem Thema.

Starke vertrauenswürdige KI-Ökosysteme sind für sie Grundlage dafür, in der EU ein Umfeld für Weltklasse-Innovationen in dieser strategisch wichtigen Domäne zu schaffen.