Seit gut einem halben Jahr können Menschen mit dem Suizidbutton einen Selbstmordgefährdeten bei Facebook melden. Jetzt geht das Unternehmen einen Schritt weiter: Eine Software soll Selbstmordabsichten und -Ankündigungen erkennen. Wie funktioniert das?

Die Software, sagt unser Reporter Andreas Noll, ist mehr als nur ein simpler Algorithmus. Es geht um künstliche Intelligenz.

Alle 40 Sekunden ein Selbstmord

Letzter Auslöser, um die Pläne voranzutreiben, war für Facebook offenbar das Video eines zwölfjährigen Mädchens, das sich umgebracht hat, so Andreas: "Das Video kursierte dann auf Facebook, ohne, dass es dem Unternehmen gelungen ist, den Suizid oder auch nur die Verbreitung des Videos zu verhindern." Und das ist nur einer von vielen Fällen:

"Weltweit wird alle 40 Sekunden ein Suizid verübt, so schreibt Facebook."
Andreas Noll, DRadio Wissen

Um Selbstmorde zu verhindern, testet das Unternehmen derzeit ein System, das eigenständig Suizidgedanken und -Ankündigungen bei einem Menschen erkennen kann. Dazu wird die Software mit alten Posts und Kommentaren von Menschen gefüttert, die in der Vergangenheit suizidgefährdet waren. "Mit diesem Wissen durchkämmt die Software dann die Timelines", so unser Reporter.

Facebook übernimmt Verantwortung

Die Software sucht zum Beispiel nach Dialogen, in denen Freunde den Betroffenen fragen: "Geht es Dir wirklich gut?", oder "Ich kann Dir helfen". Solche Sätzen können völlig banal sein, aber auch auf Suizidgedanken hinweisen. Wurden Selbstmordgedanken erkannt, will das Unternehmen Hilfe vermitteln. Entsprechende Angebote werden auf der Seite gepostet.

Facebook's AI is now being used to prevent self-harm and suicide (@WiredUK via Twitter)

Facebook bietet außerdem einen Krisenchat an, der im Messenger eingeblendet wird. Gefährdete finden hier den direkten Kontakt zu Organisationen, die auf Krisenberatung spezialisiert sind.

"Auch bei Facebook-Live-Videos ändert sich ab jetzt etwas. Man soll nun die Person, die filmt, direkt erreichen können und verdächtige Videos ebenfalls melden können."
Andreas Noll, DRadio Wissen

Facebook wächst sozusagen in eine Elternrolle hinein, sagt Andreas Noll: "Das sorgt natürlich auch für Kritik, denn Facebook ist ja am Ende vor allem ein gewinnorientiertes Unternehmen“. Dennoch: Im Fall der Suizidprävention gibt es viele lobende Worte - zum Beispiel von der Suizid-Präventions-Gesellschaft save.org.