https://www.faz.net/-gwz-94msr

Suizidprävention : Automatische Ferndiagnose

  • -Aktualisiert am

Das Überwachungsprogramm soll überall auf der Welt eingesetzt werden. Nur nicht in der Europäischen Union. Bild: Illustration F.A.S.

Der Online-Konzern Facebook will eventuelle Suizidabsichten seiner Nutzer automatisch erkennen. Ob das gutgeht?

          5 Min.

          Facebook hat jüngst eine Funktion angekündigt, die vor allem zeigt, wie gut es inzwischen darin ist, sich einen Reim auf die Informationen seiner rund zwei Milliarden Nutzer zu machen. Das Unternehmen hat angekündigt, weltweit (außer in der Europäischen Union) Videos und Beiträge automatisch nach Suizidabsichten zu durchforsten. Auffälligkeiten werden an Moderatoren gemeldet, die dann Hilfe organisieren können. Das ist eine Technologie, die zumindest Unbehagen hervorruft. Suizidgedanken sind zwar oft Ausdruck einer Krankheit. Wie alle Gedanken sind sie aber auch etwas Intimes. Ist es in Ordnung, dass ein Unternehmen diese Gedanken erkennt und darauf reagiert – und sei es in der Absicht, zu helfen?

          Das geschieht bereits heute. Alleine im letzten Monat, so Facebook, habe der Algorithmus in den Vereinigten Staaten über einhundert Fälle erkannt, die so dramatisch waren, dass die Moderatoren sogenannte „first responder“ (Ersthelfer) einschalteten. Dabei handele es sich um Polizisten, Notärzte oder Feuerwehrleute, die sich mit dem betroffenen Nutzer in Verbindung gesetzt haben. Um was für Fälle es sich genau gehandelt hat, verrät Facebook allerdings nicht.

          Der Konzern hat auch ein Eigeninteresse

          Dramatische Ereignisse auf dem sozialen Netzwerk gab es aber viele. Immer wieder kommt es vor, dass Menschen sich bei „Facebook Live“, also bei einer direkten Video-Übertragung, vor den Augen Hunderter anderer Nutzer umbringen. Facebook hat ein großes Interesse daran, solche Fälle zu verhindern.

          Für seine Suizid-Erkennung kann das Unternehmen auf Daten zurückgreifen, die es seit Jahren sammelt. Entdeckt jemand Bilder, Videos oder Beiträge, auf denen ein Nutzer Suizidgedanken äußert, kann er das mit nur drei Klicks an Facebook melden. Dadurch besitzt das soziale Netzwerk heute ein Archiv mit Unmengen an Inhalten, die Nutzer irgendwann mal als bedenklich markiert haben. Mit diesen Daten konnte es nun einem Computersystem beibringen, solche Inhalte selbst zu erkennen. Wird das System in den Videos oder Beiträgen eines Nutzers fündig, informiert es einen Moderator, der das Material daraufhin sichtet. Erkennt er ebenfalls Suizidabsichten, kann er dem Nutzer den Hinweis einblenden, sich an Freunde oder eine Hilfsorganisation wie die Telefonseelsorge zu wenden. Wenn jedoch Gefahr im Verzug ist, alarmiert der Moderator die Ersthelfer.

          Die Experten sind nicht grundsätzlich dagegen

          Wolfgang Maier, Leiter der Psychiatrie und Psychotherapie des Universitätsklinikums in Bonn, hält dieses Vorgehen zumindest prinzipiell für angemessen. „Wenn jemand den Entschluss fasst, sich umzubringen, dann gibt es eine Phase des Rückzugs“, erklärt er. Wenn man es schaffe, in dieser Phase Kontakt zu dem Betroffenen aufzunehmen, könne man noch korrigierend eingreifen. Es komme allerdings stark darauf an, wie gut das System funktioniert. Falls es wenig effektiv sei und Menschen als suizidal erachte, die es gar nicht sind, würde es an Akzeptanz verlieren. „Das Ganze wird dann zu einer Art makabrem Gesellschaftsspiel ausarten, bei dem Nutzer das System täuschen wollen“, sagt Maier. Wie oft Facebook fälschlicherweise Alarm schlägt, verrät das Unternehmen nicht. Auch Facebooks Reaktion auf Extremfälle sieht Maier kritisch. Menschen begingen Suizid, wenn sie kein Vertrauen mehr in das soziale Umfeld hätten, genau da müsse Hilfe ansetzen, sagt er. „Wenn aber die Polizei kommt, dann wird das bei den wenigsten Vertrauen wiederherstellen.“ Sinnvoller sei es, Helfer wie die von der Telefonseelsorge einzusetzen. Doch hier muss man einwenden, dass solche Organisationen im Gegensatz zur Polizei gar nicht die Möglichkeit haben, den Betroffenen ausfindig zu machen.

          David Ebert vom Lehrstuhl für Klinische Psychologie und Psychotherapie der Universität Erlangen kann zumindest dem Versuch, Betroffene über soziale Medien auf Hilfsangebote hinzuweisen, Positives abgewinnen. In einer Studie hat er Studenten untersucht, die sich mit Suizidgedanken trugen oder bereits versucht hatten, sich umzubringen. „Mehr als die Hälfte davon hatte nie mit jemandem über diese Gedanken gesprochen“, sagt Ebert. Man bräuchte also neue Wege, um an diese Menschen heranzukommen. „Das maschinelle Lernen mit Daten aus sozialen Medien kann da hilfreich sein, aber die Frage ist: Was macht man mit denen, die Suizidabsichten haben?“

          Weitere Themen

          Schusswaffen in Nordamerika Video-Seite öffnen

          Videografik : Schusswaffen in Nordamerika

          Wegen mutmaßlicher Finanzvergehen will der Bundesstaat New York die mächtige Waffenlobbygruppe NRA verbieten lassen. Der Besitz von Schusswaffen ist in der Gesellschaft Nordamerikas tief verwurzelt. Jedes Jahr sterben zehntausende Menschen durch Waffengewalt.

          Topmeldungen

          Demo am 1. August in Berlin

          „Querdenken 711“ : Und wieder die Politiker!

          Eine Initiative peitscht Bürger in der Corona-Pandemie auf, um sie zu ihren Demos zu locken. Doch angebliche Belege sind gefälscht, Fotos aus dem Zusammenhang gerissen.
          Mitarbeiter vom Bayerischen Roten Kreuz nehmen an einem Corona-Testzentrum an der Autobahn 8 (A8) einen Abstrich

          In Bayern : Corona-Tests für Reiserückkehrer in vielen Fällen nutzlos

          Mehr als 40.000 Reiserückkehrer haben sich an Teststationen an Autobahnen und Bahnhöfen in Bayern freiwillig auf Corona testen lassen – viele haben ihr Testergebnis aber nie erhalten. Beim zuständigen Landesamt gibt man sich zerknirscht.
          Während der Corona-Pandemie arbeitslos gewordene Amerikaner warten in der Nähe der Grenze zu Mexiko in Kalifornien darauf, einen Antrag auf staatliche Hilfe ausfüllen zu können.

          Konjunktur in Corona-Zeiten : Amerika steckt tief in der Krise

          Die Arbeitslosenquote in den Vereinigten Staaten sinkt zwar, bleibt aber auf einem hohen Niveau. Die Hilfen für die Betroffenen laufen in Kürze aus. Was kommt dann?

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.