Auch Gesichtserkennung soll möglich sein

Brüssel. Es wäre die weltweit erste umfassende Regulierung von Künstlicher Intelligenz. Von Gesichtserkennung über Bildmontage bis Texterstellung will die EU alles regulieren. Doch etliche Details in der nun vorliegenden 900-Seiten starken KI-Verordnung stoßen auf großen Widerstand.

Ein Roboter begrüßt die Schweriner Europaministerin Bettina Martin am Montag beim Besuch des KI-Zentrums in Rostock.

Je tiefer der Eingriff in die Freiheitsrechte, desto höher die Auflage für die Künstliche Intelligenz. Für diesen neuen Grundsatz der EU-KI-Gesetzgebung hat es gerade einmal 15 Wörter bedurft. Das aber für die wichtigsten Anwendungen Künstlicher Intelligenz durchzubuchstabieren, führte jetzt zu einem Gesetzeswerk von 892 Seiten. Parlament, Rat und Kommission hatten sich im Dezember zwar „im Grundsatz“ geeinigt und die Details dann von den Experten ausarbeiten lassen. Was nun jedoch als Ergebnis auf den Tischen der drei EU-Gesetzgeber liegt, hat erst einmal viele Politiker und KI-Experten die Hände über den Köpfen zusammenschlagen lassen. Schon macht die Einschätzung die Runde, dass sich die EU mit dem weltweit einmaligen Versuch, die wild wuchernde KI für alle berechenbar zu beschneiden, übernommen haben könnte.

Da ist die Frage der juristischen Verlässlichkeit. EU-Rechtsexperte Axel Voss ist zwar grundsätzlich „glücklich“, die Verhandlungen nun endlich zu einem Abschluss gebracht zu haben. Allerdings stellt der Bonner CDU-Europaabgeordnete seine Zweifel hinter die Frage, ob damit auch die von den Unternehmen erhoffte Rechtssicherheit erreicht wurde. „Ich befürchte, dass es den EU-Gesetzgebern nicht gelungen ist, aus den Fehlern der Datenschutzgrundverordnung zu lernen und wir wieder Auslegungsprobleme sowie ein Kompetenzchaos zwischen den Behörden erleben werden“, räumt Voss ein. Sein Blick auf die Folgen ist düster: „Für die Wettbewerbsfähigkeit wäre dies katastrophal“.

Da ist auf der anderen Seite der Schutz der Bürgerrechte. FDP-KI-Expertin Svenja Hahn kommt nach dem Studium des Textes zu dem Schluss, dass die KI-Gesetzgebung „ein Flächenbrand statt eine Brandmauer für Bürgerrechte zu werden droht“. Zwar sei es gelungen, viele rechtsstaatliche Hürden für die Nutzung biometrischer Echtzeitidentifizierungen einzuziehen. Doch es blieben Schlupflöcher, wie ein Verweis auf Terrorgefahren oder nationale Sicherheitsausnahmen. Und diese Begründung für eine Gesichtserkennung könne dann doch zu einer „Massenüberwachung“ führen. Die Hamburger FDP-Europaabgeordnete erinnert an die weit fortgeschrittene systematische Gesichtserkennung in China und fasst ihre Befürchtung in der Feststellung zusammen: „Uns droht China light.“

Die Ausnahmen vom Prinzip des Anwendungsverbotes bei schwersten Risiken ziehen sich durch viele denkbare und schon verfügbare Techniken. So will der neue KI-Gesetzentwurf selbst höchst leistungsfähige Programme mit eindeutig systemischen Risiken für die Gesellschaft doch zulassen, wenn der Anbieter die EU-Kommission davon überzeugen kann, dass dies für sein Programm ausnahmsweise nicht gilt. Zu diesem Zweck muss die EU eine eigene KI-Behörde ins Leben rufen, die sich permanent mit Orientierungslinien für den hochriskanten Einsatz von Künstlicher Intelligenz befassen soll.

Auch die Wissenschaft bekommt weitgehende Freiheit, immer neue und immer tiefer reichende KI-Anwendungen zu erforschen, zu entwickeln und für eine industrielle Nutzung zu testen. Die strikten Vorgaben der Verordnung sollen so lange nicht für den Bereich der Forschung und Entwicklung gelten, so lange die neuen Systeme noch nicht in Verkehr gebracht worden sind.

Positiv beurteilt Hahn eine größere Differenzierung bei den potenziellen Hochrisikobereichen, wenn der Verbraucherschutz nicht oder kaum beeinträchtigt wird. Die Liberale verweist als Beispiel auf den prinzipiell riskanten Umgang mit Gesundheitsdaten. Wenn es um eine einfache KI-gestützte Koordinierung von Arztterminen gehe, bedeute eine simple und unbedenkliche KI in einem Hochrisikobereich eben nicht, dass diese selbst auch automatisch zu einer Hochrisiko-KI werde.

Gleichwohl blieben große Gefahren für den Mittelstand. Mit den verbleibenden Unklarheiten, den bürokratischen und den finanziellen Belastungen durch die neue EU-Regulierung könnten Big-Tech-Unternehmen mit großen Compliance-Abteilungen umgehen, nicht jedoch kleine und mittleren Unternehmen. So werde die KI-Richtlinie zu einem Anti-Innovations-Gesetz. Es blieben zudem viele Unsicherheiten für die Branche in Europa, da abschließende Regelungen noch zu entwerfenden Leitlinien der EU-Kommission überlassen blieben. Ihr Vergleich: „China macht einfach, die USA erfinden und Europa überreguliert.“

Angesichts der massiven Bedenken warnt Grünen-Digitalexpertin Alexandra Geese vor einem Scheitern des Gesetzesprojektes. Auch ihre Partei sehe den Einsatz von biometrischen Identifizierungstechnologien als problematisch an. Das sei jedoch „kein Grund, die KI-Verordnung jetzt als Ganzes abzulehnen“. Sie stelle nämlich weltweit wegweisende Bestimmungen zu generativer KI und zum Schutz von Grundrechten dar. KI dürfe nicht den Konzernen überlassen bleiben, sondern Gesellschaften müssten über ihren Einsatz mitentscheiden können. Dafür liefere die Verordnung einen ersten, aber „extrem wichtigen“ Schritt, betont die Bonner Europaabgeordnete.