Ihr plant ein Verbrechen? Dann solltet ihr euch vor der Software "Beware" in Acht nehmen. Denn die berechnet, ob ihr eventuell gefährlich werden könntet. Klingt nach Science Fiction - im kalifornischen Fresno ist das schon Realität. Dafür wertet "Beware" haufenweise Daten aus.

Das Police Department der 500.000-Einwohner-Stadt Fresno in Kalifornien ist eines der ersten, das mit Beware arbeitet. Einem Programm, das den "Threat Score" eines Bürgers berechnet, also das Gefährdungspotential eines Bürgers. Laut Washington Post greift der Algorithmus des Programmes dafür auf Milliarden Daten zurück, unter anderem aus Verhaftungsprotokollen, Grundbüchern, kommerziellen Datenbanken oder Social-Media-Postings. "Beware" berechnet das Gefährdungspotential in drei Stufen:

  • grün für "unverdächtig",
  • gelb für die Personen, die möglicherweise eine Straftat begehen und
  • rot für solche, die sehr wahrscheinlich eine Straftat begehen.

"Nach Aussage der Macher von "Beware" kann das Programm Polizisten, die sich zu einer Adresse aufmachen, zum Beispiel sagen, ob dort ein Kriegsveteran wohnt, der möglicherweise unter einem posttraumatischen Belastungssyndrom leidet oder schon mal wegen einer Gewalttat verurteilt wurde", sagt DRadio-Wissen-Netzautorin Martina Schulte.

Geheimer Algorithmus

Wie der Algorithmus genau arbeitet, ist allerdings Firmengeheimnis. Die Washington Post berichtet, dass sich viele Einwohner von Fresno wegen der Überwachung Sorgen machen. Wie netzpolitik.org berichtet, hat sich Fresno zusätzlich für 600.000 Dollar ein Real Time Crime Center geleistet - einen Überwachungsraum, wie es ihn auch in New York, Houston und Seattle gibt.

Das Real Time Crime Center in Fresno verfügt laut Washington Post über 57 Monitore an der Wand, die mit beliebigen Live-Feeds belegt werden können. Die Mitarbeiter können sich die Bilder von insgesamt 200 polizeilichen Überwachungskameras der Stadt in ihr Kontrollzentrum holen oder auf die rund 800 Feeds der Schul- und Verkehrskameras zugreifen, auf rund 400 Körper-Kameras der Polizisten sowie auf Tausende Überwachungskameras von Privatleuten und Geschäften. Mit diesen Kameras ist es der Polizei in Fresno gerade gelungen, einen Räuber zu stellen, der ein Geschäft ausgeraubt hatte und in einen Kanal gesprungen war, um sich dort zu verstecken.

Alles wird durchgewühlt

"Aber die Fresno Cops können noch mehr", sagt Netzautorin Martina Schulte: "Wenn irgendwo Schüsse fallen, soll zum Beispiel eine Software namens ShotSpotter mit Hilfe von Richtmikrofonen, die in der Stadt verteilt sind, den Standort des Schützen berechnen können." Ein weiteres Programm namens Media Sonar wühlt sich währenddessen auf der Suche nach Hinweisen auf kriminelle oder illegale Vorgänge durch die Social-Media-Aktivitäten der Stadt.

"Die Öffentlichkeit sollte schon wissen, wie so ein Score zustande kommt."
DRadio-Wissen-Netzautorin Martina Schulte über den Threat Score, den die Software "Beware" berechnet

Nach Beschwerden von Bürgern hat der Rat von Fresno im November 2015 eine öffentliche Anhörung zu "Beware" und den Real Time Crime Centern abgehalten. Ein Ratsmitglied brachte dabei einen Bericht der Lokalmedien auf den Tisch, wonach der angebliche Threat Level einer Einwohnerin, hochgestuft wurde, weil sie über ein Kartenspiel namens "Rage" getwittert hatte. "Rage könnte ein Schlüsselwort sein, das die Beware Software nutzt, um das Bedrohungspotenzial eines Individuums zu berechnen", erklärt Martina Schulte.

Problematische Datenauswertung

Auch nach der Anhörung wird "Beware" in Fresno weiter eingesetzt. "In anderen Städten dagegen wie zum Beispiel in Oakland hat der Stadtrat die Pläne für ein Real Time Crime Center nach Protesten der Bewohner wieder auf Eis gelegt", sagt Martina Schulte. Auch netzpolitk.org äußert Datenschutzbedenken und fragt: "Wird der Score-Wert zusammen mit soziodemografischen Daten in Zukunft mitentscheiden, ob eine Wohnung durchsucht, ein Notruf priorisiert oder eine Anzeige etwas langsamer bearbeitet wird? Und was sagen solche Daten wie ein Social-Media-Monitoring wirklich aus?"