Bei der KI-Regulierung wird die Europäische Union wohl weltweit führend sein. Sorgen muss sich die IT-Branche – insbesondere kleinere Unternehmen.
Künstliche Intelligenz braucht einen gesetzlichen Rahmen, davon ist das Europäische Parlament überzeugt. Am 14.06.2023 hat es das Gesetz über Künstliche Intelligenz – auch als AI-Act bekannt – auf den Weg gebracht. Die Abgeordneten haben sich auf einen Text geeinigt, der nun noch mit den Mitgliedsstaaten und der EU-Kommission abgestimmt werden muss.
Zwang zur Risikobewertung
Das Gesetz soll Anbietende dazu verpflichten, KI-Systeme in verschiedene Risikogruppen einzuteilen. Ein Ziel dieser Einteilung ist es, so auch die Entwicklung und Anwendung automatisierter Überwachungssysteme einzugrenzen.
"Da könnten noch einige Punkte verwässert werden. Denn die EU-Staaten wollen offenbar insgesamt mehr biometrische Überwachung als das Parlament."
Im Verlauf des Verfahrens könne die Regelung der KI-Entwicklung in Europa noch aufgeweicht werden, vermutet Deutschlandfunk-Nova-Netzreporterin Martina Schulte.
Grenzen für automatische Überwachung
Es wäre dem aktuellen Gesetzesentwurf zufolge nicht erlaubt, mit Hilfe von KI-Systemen Profile von Menschen zu erstellen, erklärt sie.
"Ein System, das Menschen ausnutzt oder unterdrückt, landet laut AI-Act in die Kategorie 'Hohes Risiko' und wäre damit verboten."
Das Gesetz wird von vielen Beobachter*innen begrüßt und zieht aber auch Kritik auf sich. Unter anderem wird bemängelt, dass es keine klare Definition des eigentlichen Gegenstands der Regelung, also künstlicher Intelligenz, beinhaltet.
Auch auf Entwickler*innenseite zeichnen sich Probleme ab: Aus der Pflicht, das Risiko ihres Produkts einzuschätzen, ergibt sich KI-Entwickelnde ein hoher organisatorischer und finanzieller Aufwand – für große Konzerne eher ein Vorteil, für kleinere Unternehmen jedoch eher ein Nachteil. "Für kleinere Entwickler sind die vielen Dokumentationsvorgaben kaum umzusetzen", sagt Martina Schulte. Man müsse aufpassen, dass das Gesetz nicht die europäische KI-Branche abwürge.