https://www.faz.net/-gwz-94msr

Suizidprävention : Automatische Ferndiagnose

  • -Aktualisiert am

Das Überwachungsprogramm soll überall auf der Welt eingesetzt werden. Nur nicht in der Europäischen Union. Bild: Illustration F.A.S.

Der Online-Konzern Facebook will eventuelle Suizidabsichten seiner Nutzer automatisch erkennen. Ob das gutgeht?

          Facebook hat jüngst eine Funktion angekündigt, die vor allem zeigt, wie gut es inzwischen darin ist, sich einen Reim auf die Informationen seiner rund zwei Milliarden Nutzer zu machen. Das Unternehmen hat angekündigt, weltweit (außer in der Europäischen Union) Videos und Beiträge automatisch nach Suizidabsichten zu durchforsten. Auffälligkeiten werden an Moderatoren gemeldet, die dann Hilfe organisieren können. Das ist eine Technologie, die zumindest Unbehagen hervorruft. Suizidgedanken sind zwar oft Ausdruck einer Krankheit. Wie alle Gedanken sind sie aber auch etwas Intimes. Ist es in Ordnung, dass ein Unternehmen diese Gedanken erkennt und darauf reagiert – und sei es in der Absicht, zu helfen?

          Das geschieht bereits heute. Alleine im letzten Monat, so Facebook, habe der Algorithmus in den Vereinigten Staaten über einhundert Fälle erkannt, die so dramatisch waren, dass die Moderatoren sogenannte „first responder“ (Ersthelfer) einschalteten. Dabei handele es sich um Polizisten, Notärzte oder Feuerwehrleute, die sich mit dem betroffenen Nutzer in Verbindung gesetzt haben. Um was für Fälle es sich genau gehandelt hat, verrät Facebook allerdings nicht.

          Der Konzern hat auch ein Eigeninteresse

          Dramatische Ereignisse auf dem sozialen Netzwerk gab es aber viele. Immer wieder kommt es vor, dass Menschen sich bei „Facebook Live“, also bei einer direkten Video-Übertragung, vor den Augen Hunderter anderer Nutzer umbringen. Facebook hat ein großes Interesse daran, solche Fälle zu verhindern.

          Für seine Suizid-Erkennung kann das Unternehmen auf Daten zurückgreifen, die es seit Jahren sammelt. Entdeckt jemand Bilder, Videos oder Beiträge, auf denen ein Nutzer Suizidgedanken äußert, kann er das mit nur drei Klicks an Facebook melden. Dadurch besitzt das soziale Netzwerk heute ein Archiv mit Unmengen an Inhalten, die Nutzer irgendwann mal als bedenklich markiert haben. Mit diesen Daten konnte es nun einem Computersystem beibringen, solche Inhalte selbst zu erkennen. Wird das System in den Videos oder Beiträgen eines Nutzers fündig, informiert es einen Moderator, der das Material daraufhin sichtet. Erkennt er ebenfalls Suizidabsichten, kann er dem Nutzer den Hinweis einblenden, sich an Freunde oder eine Hilfsorganisation wie die Telefonseelsorge zu wenden. Wenn jedoch Gefahr im Verzug ist, alarmiert der Moderator die Ersthelfer.

          Die Experten sind nicht grundsätzlich dagegen

          Wolfgang Maier, Leiter der Psychiatrie und Psychotherapie des Universitätsklinikums in Bonn, hält dieses Vorgehen zumindest prinzipiell für angemessen. „Wenn jemand den Entschluss fasst, sich umzubringen, dann gibt es eine Phase des Rückzugs“, erklärt er. Wenn man es schaffe, in dieser Phase Kontakt zu dem Betroffenen aufzunehmen, könne man noch korrigierend eingreifen. Es komme allerdings stark darauf an, wie gut das System funktioniert. Falls es wenig effektiv sei und Menschen als suizidal erachte, die es gar nicht sind, würde es an Akzeptanz verlieren. „Das Ganze wird dann zu einer Art makabrem Gesellschaftsspiel ausarten, bei dem Nutzer das System täuschen wollen“, sagt Maier. Wie oft Facebook fälschlicherweise Alarm schlägt, verrät das Unternehmen nicht. Auch Facebooks Reaktion auf Extremfälle sieht Maier kritisch. Menschen begingen Suizid, wenn sie kein Vertrauen mehr in das soziale Umfeld hätten, genau da müsse Hilfe ansetzen, sagt er. „Wenn aber die Polizei kommt, dann wird das bei den wenigsten Vertrauen wiederherstellen.“ Sinnvoller sei es, Helfer wie die von der Telefonseelsorge einzusetzen. Doch hier muss man einwenden, dass solche Organisationen im Gegensatz zur Polizei gar nicht die Möglichkeit haben, den Betroffenen ausfindig zu machen.

          David Ebert vom Lehrstuhl für Klinische Psychologie und Psychotherapie der Universität Erlangen kann zumindest dem Versuch, Betroffene über soziale Medien auf Hilfsangebote hinzuweisen, Positives abgewinnen. In einer Studie hat er Studenten untersucht, die sich mit Suizidgedanken trugen oder bereits versucht hatten, sich umzubringen. „Mehr als die Hälfte davon hatte nie mit jemandem über diese Gedanken gesprochen“, sagt Ebert. Man bräuchte also neue Wege, um an diese Menschen heranzukommen. „Das maschinelle Lernen mit Daten aus sozialen Medien kann da hilfreich sein, aber die Frage ist: Was macht man mit denen, die Suizidabsichten haben?“

          Weitere Themen

          Kein Android mehr für Huawei? Video-Seite öffnen

          Google-Boykott : Kein Android mehr für Huawei?

          Google kappt in weiten Teilen seine Geschäftsbeziehungen mit dem chinesischen Hightech-Konzern Huawei. Damit beugt sich Google nach eigenen Angaben dem neuen Dekret von Präsident der Vereinigten Staaten, Donald Trump, zur Telekommunikation. Das könnte weitreichende Folgen für Huawei-Nutzer haben.

          Facebook schwingt die China-Keule

          Angst vor Fernost : Facebook schwingt die China-Keule

          Immer mehr Rufe nach einer Zerschlagung bringen das soziale Netzwerk in die Defensive. Nun kontert das Unternehmen mit einem Argument, das in der amerikanischen Politik auf fruchtbaren Boden fallen könnte.

          Das Schöne, Wahre und Schmutzige Video-Seite öffnen

          Physikästhetik : Das Schöne, Wahre und Schmutzige

          Seit 400 Jahren lassen Physiker sich bei der Suche nach brauchbaren Theorien über die Natur von ästhetischen Erwägungen leiten. Heute wird bezweifelt, ob das grundsätzlich eine gute Idee ist. Zu Unrecht.

          Topmeldungen

          „Spiegel“-Verlagschef Thomas Hass (links), Chefredakteur Steffen Klusmann und Brigitte Fehrle stellen den Bericht vor.

          Der Fall Relotius : Über den Reporter, der immer Glück zu haben schien

          Fünf Monate, nachdem der frühere „Spiegel“-Redakteur Claas Relotius als Fälscher enttarnt wurde, legt das Magazin nun seine Untersuchung des Falls vor. Dabei geht es mit sich und einigen Mitarbeitern hart ins Gericht.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.