Künstliche Intelligenz (KI) birgt Chancen und Risiken – etwa Diskriminierung oder Verbreitung von Fehlinformationen. Der Artificial Intelligence Act (AI Act), den das Europäische Parlament nun verabschiedet hat, legt den EU-Mitgliedstaaten Regeln für den KI-Einsatz auf und soll Bürger*innen vor KI-Missbrauch schützen.
Das Europäische Parlament hat den Artificial Intelligence Act (AI Act) verabschiedet. Die Parlamentarier*innen stimmten mehrheitlich für das weltweit erste KI-Gesetz, das damit nun in allen EU-Ländern in Kraft treten kann. Danach müssen alle Anbieter einer KI – angefangen von ChatGPT über Bildbearbeitungsprogramme mit KI bis zu den Algorithmen in Social Media – transparent offenlegen, wenn Texte, Bilder oder Videos von KI produziert wurden.
Der AI Act soll aber nicht nur für die Regelung bei privater Verwendung greifen: Das Gesetz reguliert beispielsweise auch medizinische KIs oder solche, die die Polizei bei der Arbeit unterstützen – Stichwort ist hier das heikle Thema Gesichtserkennung.
Erstes KI-Gesetz weltweit
Da KI in immer sensiblere Lebensbereiche vordringt, haben die Gesetzesmacher KI in verschiedene Risikoklassen sortiert. Damit sich Unternehmen an die Regeln halten, werden sie bei Verstößen mit hohen Geldstrafen bedacht.
"Der AI Act legt auch fest, dass Entwicklerinnen und Entwickler genau wie Soziale Medien künftig kennzeichnen müssen, wenn Texte, Bilder oder Videos auf Künstlicher Intelligenz beruhen. Manche KI-Anwendungen werden sogar ganz verboten."
Laut Gesetz sind demnach auch staatliche Scoring-Systeme verboten. Diese Systeme sortieren Menschen in Kategorien – je nachdem, wie sie sich verhalten, werden sie in bestimmte Schubladen gesteckt: Es gibt Unternehmen, die mithilfe von KIs die Gefühle ihrer Beschäftigten erfassen. Oder solche, die Menschen gegen deren Willen beeinflussen, etwas zu tun.
Polizei darf weiterhin "scrapen"
Das sogenannte "Scraping", bei dem Algorithmen automatisiert das Netz durchsuchen und dann Gesichtserkennungs-Datenbanken erstellen, bleibt der Polizei hingegen erlaubt.
"Bei der Scraping-Technologie haben sich die Innenminister durchgesetzt. Das EU-Parlament wollte das ursprünglich strenger regeln und biometrische Gesichtserkennung im öffentlichen Raum komplett verbieten. Die Polizei darf die Technik weiterhin nutzen."
Die Bürgerrechtsorganisation European Digital Rights (EDRi) kritisiert, dass die Gesichtserkennung durch KI innerhalb der EU nicht komplett verboten wird. Das neue EU-Gesetz könne so dazu beitragen, "die Überwachungsaktivitäten von Polizei und Migrationskontrollbehörden auszuweiten und zu legitimieren".
Fachleute, etwa die NGO Algorithmwatch, sorgen sich auch wegen eines Schlupflochs im AI Act: Denn abhängig davon, in welche Risikoklasse ein Anbieter einsortiert wird, gelten für ihn unterschiedlich harte Regeln. Allerdings haben die Anbieter auch ein gewisses Mitspracherecht bei der Einordnung in die jeweilige Risikoklasse.
Der AI Act wird frühestens 2026 in Kraft treten – bis dahin gelten noch Übergangsfristen.