Echtzeit-Gesichtserkennung? EU-Parlament beschließt Regelwerk zu KI

Für manche Menschen bedeutet sie Fortschritt – andere sind beängstigt. Die Rede ist von "künstlicher Intelligenz" (KI). Da mittlerweile bewiesen ist, was KI alles kann und vermutlich noch viel mehr können wird, hat sich nun das Europaparlament in Straßburg am Mittwoch (14. Juni) auf "seine Position für die Verhandlungen mit den EU-Ländern über die endgültige Form des sogenannten KI-Gesetzes" festgelegt, schreibt die Deutsche Presse-Agentur (dpa).

Es besagt vor allem schärfere Regeln für "künstliche Intelligenz". So wolle die EU "der erste Wirtschaftsraum weltweit werden, der den Einsatz künstlicher Intelligenz gesetzlich regeln", ergänzte ZDF-"heute".

Auf der Internetpräsenz des Europäischen Parlaments heißt es zudem: "Als Teil ihrer digitalen Strategie will die EU künstliche Intelligenz (KI) regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen." So sollen "KI-Systeme von Menschen und nicht von der Automatisierung überwacht werden, um schädliche Ergebnisse zu verhindern."

So soll KI kontrolliert werden

Zunächst sollen KI-Systeme in verschiedene Risikogruppen (Hochrisiko-KI-System, generative KI, begrenztes Risiko) eingeteilt werden – je mehr Gefahr durch die Anwendung, desto strengere Regeln.

Auch soll die Gesichtserkennung in Echtzeit im öffentlichen Raum untersagt werden. Allerdings sei es wohl möglich, unter bestimmten Voraussetzungen Aufzeichnungen auszuwerten, schreibt die dpa unter Berufung auf das Europäische Parlament.

Allein schon die Erstellung von Datenbanken zur Gesichtserkennung verstoße nach Ansicht des Europäischen Parlaments gegen die Menschenrechte und dürfe nicht erlaubt sein.

Zudem solle nach Ansicht der Abgeordneten die sogenannte "vorausschauende Polizeiarbeit" verboten werden. Hier werde mittels Profilerstellung und Standortermittlung gearbeitet und aufgrund früheren Verhaltens abgeschätzt, ob eine Person eine Straftat begehen werde.

In diesem Zuge solle auch eine kognitive Verhaltensmanipulation von Personen oder bestimmten Gruppen untersagt werden. Als Beispiel sei hier sprachgesteuertes Spielzeug zu nennen, das gefährliches Verhalten bei Kindern fördere.

Weiterhin soll das Klassifizieren von Menschen nach ihrem sozialen Verhalten oder ethnischen Merkmalen mittels KI-Systemen nicht gestattet werden. Genauso wenig wie Systeme zur Emotionserkennung – etwa am Arbeitsplatz.

Pro und Kontra

Der KI Bundesverband warnt vor den Folgen des geplanten Gesetzes. So würden auf Grund der durch das Europäische Parlament vorgesehenen Regulationen für europäische KI-Unternehmen zusätzliche und gefährlich hohe Compliance-Kosten entstehen. Auch würden die Haftungsrisiken europäische KI-Unternehmen übermäßig belasten, beschreibt Daniel Abbou, Geschäftsführer des Verbandes, die Lage.

Dem fügt Stephan Tromp, Hauptgeschäftsführer des "Handelsverband Deutschland" (HDE) hinzu: "Klar ist, dass wir Regeln brauchen." Es gäbe aber keinen Grund, naiv mit KI umzugehen. Daher warne er vor einer Überregulierung. Auch dürfe "nicht ein unbegründetes Gefühl der Angst die Oberhand gewinnen."

Der Chef des "Digitalverbands Bitkom", Achim Berg, forderte zudem eine klare Definition von KI. So dürfe nicht "nahezu jegliche Software regulatorisch erfasst werden", schreibt ZDF-"heute".

"Die EU ist aufgrund ihrer systemimmanenten Schwerfälligkeit kaum in der Lage, diese sich rasant entwickelnde Technologie adäquat zu begleiten", argumentiert auch der industriepolitische Sprecher der AfD im EU-Parlament, Markus Buchheit, kritisch.

"Durch die Dynamik um ChatGPT und Co. sind die Potenziale und Risiken dieser Anwendungen in der Breite der Gesellschaft spürbar geworden. Dadurch wurde noch klarer, dass wir eine wertebasierte und vertrauenswürdige Regulierung von KI benötigen - auch als Gegenpol zu den USA und China", stimmte hingegen Armand Zorn (SPD) dem Entschluss zu.

Was ist KI?

Unter KI werden in der Regel Anwendungen bezeichnet, die auf Basis maschinellen Lernens beruhen. Hierbei werden große Datenmengen mit Hilfe von Software durchsucht, auf Übereinstimmung geprüft und aus den gewonnenen Ergebnissen Schlussfolgerungen getroffen. KI ist bereits bei Computertomografen, selbstfahrenden Autos oder Chatbots zu finden.

Nun soll bis zum Jahresende eine Einigung gefunden werden. Danach hätten Unternehmen zwei Jahre Zeit, um sich an die veränderten Rahmenbedingungen anzupassen.

• Verwendete Quellen:
• Nachrichtenagentur dpa
• ZDF-"heute": "EU-Parlament beschließt Regelwerk zu KI"
• Europäisches Parlament: "KI-Gesetz: erste Regulierung der künstlichen Intelligenz"