EU-Kommission stellt Digitalstrategie vor

KI soll gefördert, zertifiziert, getestet und kontrolliert werden

von Sebastian Müller, Ressortleiter Europapolitik & Public Affairs

In ihrer Digitalstrategie hat sich die EU-Kommission verpflichtet, „Technologie, die für die Menschen arbeitet“, zu fördern: Die digitalen Fähigkeiten der europäischen BürgerInnen und Unternehmen soll erhöht, die Marktmacht der Technologie-Giganten eingeschränkt und das Nachhaltigkeitspotenzial der Technologien erschlossen werden. Künstliche-Intelligenz-Technologien, die ein hohes Missbrauchsrisiko bergen, werden aber nach Willen der EU-Kommission zukünftig auch einer Reihe neuer Regeln und Anforderungen unterworfen. Die Kommission stellte die Pläne im März vor und veröffentlicht gleichzeitig ein Weißbuch der Exekutive zur Künstlichen Intelligenz (KI). In dem parallel gestarteten Konsultationsverfahren wird der DFK – Verband für Fach- und Führungskräfte gegenüber der Kommission Stellung nehmen.

Mehr Wettbewerb, weniger Emissionen

In diesem Bereich hat die Kommission nun Pläne umrissen, um sicherzustellen, dass unvoreingenommene Datensätze in Technologien der künstlichen Intelligenz verwendet werden, um die Diskriminierung unterrepräsentierter Bevölkerungsgruppen in algorithmischen Prozessen zu vermeiden. Kommissionspräsidentin Ursula von der Leyen sagte, dass solche Technologien in einer Reihe von Sektoren, darunter im Gesundheitswesen, in der Landwirtschaft und im Energiesektor, von lebenswichtigem Nutzen sein können. Sie seien auch geeignet, Europa bei der Erreichung nachhaltiger Ziele zu unterstützen.

Kritische Bereiche

Zu den von der Kommission genannten „kritischen Sektoren“ der künstlichen Intelligenz gehört auch der Arbeitsplatz, insbesondere die Rekrutierung in den Unternehmen, das Gesundheitswesen, der Transport, die Polizei und das Rechtssystem, während zu den Technologien mit „kritischem Nutzen“ solche Technologien gehören, die ein Risiko für Tod, Beschädigung, Verletzung oder rechtliche Auswirkungen haben. Technologien der künstlichen Intelligenz, die unter diese beiden Kategorien fallen, müssen sich laut Weißbuch an strenge Regeln halten, die auch Konformitätsprüfungen und Kontrollen umfassen könnten. Sollten bestimmte Technologien diese Anforderungen nicht erfüllen, könnten Sanktionen verhängt werden. Solche „risikoreichen“ Technologien sollten laut Kommissionsdokumenten auch „unter menschliche Kontrolle“ gestellt werden. Ein weiterer Bereich, in dem sich die Kommission um eine bessere Überwachung bemühen wird, ist die Verwendung potenziell verzerrter Datensätze, die sich negativ auf demographische Minderheiten auswirken können.

Vestager fordert „besonders hohe“ Standards für künstliche Intelligenz

Künstliche Intelligenz, die im öffentlichen Sektor eingesetzt wird, müsse „besonders hohe Standards in Bezug auf Transparenz und Rechenschaftspflicht erfüllen“, forderte die für die Digitalpolitik zuständige EU-Kommissarin Margrethe Vestager. Sie wies jedoch auch darauf hin, wie wichtig es sei, dass bestimmte KI-Technologien spezifische Standards erfüllen, um für die europäischen Bürger von Nutzen zu sein. „Risikoreiche KI-Technologien müssen getestet und zertifiziert werden, bevor sie auf den Markt kommen“, betonte von der Leyen. Auf dieser Grundlage wird die Kommission eine „objektive, vorhergehende Konformitätsbewertung“ durchführen, um sicherzustellen, dass die KI-Systeme technisch robust, genau und vertrauenswürdig sind.

„Solche Systeme müssen in verantwortungsvoller Weise und unter Berücksichtigung der Risiken, die sie möglicherweise erzeugen, entwickelt werden. Ihre Entwicklung und Funktionsweise muss gewährleisten, dass sich KI-Systeme so zuverlässig verhalten, wie es beabsichtigt ist“, heißt es im Weißbuch, zu dem der DFK bis Mitte Mai im Rahmen der EU-Konsultation Stellung nehmen wird.

Eine solche Konformitätsbewertung könnte Verfahren zur Prüfung, Inspektion und Zertifizierung umfassen. Wesentlich ist ferner, dass eine solche Bewertung „auch die Überprüfung der Algorithmen und der in der Entwicklungsphase verwendeten Datensätze umfassen könnte“, so die Kommission. Die geschäftsführende Vizepräsidentin und EU-Kommissarin für Digitales, Margrethe Vestager, sagte, dass in Zukunft geprüft werden soll, ob dieser Ansatz effektiv ist oder nicht.

Gesichtserkennung

An anderer Stelle des Weißbuchs zur künstlichen Intelligenz hielt sich die Kommission mit der Einführung strenger Maßnahmen gegen Gesichtserkennungstechnologien jedoch zurück. Eine durchgesickerte Version des Dokuments hatte zuvor die Idee eines Moratoriums für Gesichtserkennungssoftwares in Umlauf gebracht. Die Exekutive plant nun jedoch, „eine EU-weite Debatte über den Einsatz von biometrischer Fernidentifizierung“ zu starten, zu der auch Gesichtserkennungstechnologien gehören. Vestager stellte fest, dass Gesichtserkennungstechnologien „in einigen Fällen harmlos“ seien. Dennoch sei eine breitere Konsultation erforderlich, um zu ermitteln, inwieweit die biometrische Fernidentifizierung als Teil der KI-Technologien erlaubt werden sollte.

Die Kommission hob auch die Tatsache hervor, dass nach den geltenden EU-Datenschutzvorschriften die Verarbeitung biometrischer Daten zum Zwecke der Identifizierung von Personen verboten ist, es sei denn, bestimmte Bedingungen im Hinblick auf die nationale Sicherheit oder das öffentliche Interesse sind erfüllt. Artikel 6 der Allgemeinen Datenschutzverordnung der EU legt die Bedingungen fest, unter denen personenbezogene Daten rechtmäßig verarbeitet werden können, wobei eine solche Voraussetzung die ausdrückliche Zustimmung der betroffenen Person ist. Die Verarbeitung biometrischer Daten ist in Artikel 4 (14) der Verordnung geregelt.

In den letzten Monaten haben die EU-Mitgliedsstaaten Zukunftspläne auf dem Gebiet der Gesichtserkennungstechnologien entworfen. Deutschland will beispielsweise die automatische Gesichtserkennung an 134 Bahnhöfen und 14 Flughäfen einführen. Frankreich hingegen plant die Schaffung eines gesetzlichen Rahmens, der die Einbettung von Videoüberwachungssystemen mit Gesichtserkennungstechnologien erlaubt.

Zukunft gestalten

Das Weißbuch behandelt viele Bereiche. Mit der Kommissarin Margrethe Vestager an der Spitze ist es keine Überraschung, dass das Dokument auch große Technologieunternehmen mit Marktmacht ins Visier nimmt. Sie werden hierin als „große private Gatekeeper zu Märkten, Kunden und Informationen“ bezeichnet und betont, dass ihre „systemische Rolle“ den fairen Wettbewerb nicht gefährden darf.

Um den europäischen Unternehmen zu helfen, die Vorteile der Digitalisierung zu nutzen, stellt die Kommission mehrere unterstützende Maßnahmen vor. Bis 2021 werden die Investitionen in die europäische Gigabit-Konnektivität durch eine Überarbeitung der Vorschriften für Breitband, 5G und 6G sowie die Frequenzpolitik vorangetrieben.

Digitale Lösungen werden bei den Bestrebungen der EU, bis 2050 klimaneutral zu werden, eine entscheidende Rolle spielen, heißt es in der Strategie. Da der IKT-Sektor laut den Daten des Dokuments für zwei Prozent der weltweiten CO2-Emissionen (so viel wie der Flugverkehr) verantwortlich ist, mit einem potenziellen Anstieg auf 14 Prozent bis 2040, will die Kommission die Rechenzentren und die IKT-Infrastruktur bis 2030 klimaneutral gestalten.

Die EU-Kommission hat mit dem Weißbuch grundlegende Fragen der digitalen Welt aufgeworfen. Der DFK wird hierzu bis zum Ende der Konsultationsphase im Mai 2020 Stellung nehmen.

Bildquelle: © DFK – Verband für Fach- und Führungskräfte