99,995 Prozent - so hoch ist die Trefferquote einer Software, die automatisch islamistische Propaganda-Videos erkennen soll. Entwickelt wurde sie im Auftrag der britischen Regierung.

Minimale Kosten, maximale Effizienz - so klingt es zumindest in der Pressemitteilung des britischen Innenministeriums. 600.000 britische Pfund - also zirka 675.000 Euro - hat die Entwicklung einer künstlichen Intelligenz (KI) gekostet, mit der das Innenministerium das heimische Unternehmen "ASI Data Science" beauftragt hat. 

Die Software soll schon beim Hochladen eines Videos auf eine Plattform erkennen, ob es sich möglicherweise um einen islamistischen Propaganda-Video handelt. Sie könnte also als Filter zwischengeschaltet werden und etwaige Inhalte zur Überprüfung melden.

Stereotype Videos erleichtern die Erkennung

Die britische BBC hat sich die Funktionsweise der Software genauer erklären lassen. Ein wirklicher Test war nicht möglich, denn der Algorithmus soll geheim bleiben. Aber immerhin gelang es der KI, ein Nachrichtenvideo über einen Propaganda-Film des IS, der lediglich Ausschnitte enthielt vom original Propaganda-Film zu unterscheiden. Der Nachrichtenfilm wurde durchgelassen, das Originalvideo aber gemeldet.

Die Erfolgsrate ist tatsächlich ziemlich hoch: Die Software erkennt 94 Prozent der IS-Clips, und das eben mit 99,995 Prozent Genauigkeit, das heißt nur 0.005 Prozent Fehlalarm. Klingt erst mal super. Die Frage ist allerdings: Warum das der KI gelingt. Und warum so große Unternehmen wie Google und Facebook da anscheinend größere Probleme haben als das britische Unternehmen, obwohl dort ein Haufen hoch qualifizierter Menschen sitzen, die durchaus auch programmieren können.

Eine Vermutung ist, dass die IS-Clip-Macher einfach sehr stereotype Videos produzieren. Mit etwas mehr Variantenreichtum könnte die hohe Trefferquote sehr schnell ausgehebelt werden. Die KI könnte dann natürlich nachtrainiert werden. Aber da gäbe es natürlich eine Lücke.

"Ich bin etwas skeptisch, ob dieses Tool der britischen Regierung so gut ist wie behauptet."
Michael Gessat, Deutschlandfunk-Nova-Netzreporter

Mehr zum Thema: