Wie Instagram Essstörungen befeuert - Facebook Files in der Praxis

Es war nur ein kleines internes Experiment, das eine Facebook Angestellte eines Tages unternahm. Sie legte einen Instagram-Account an, postete wenige extrem dünne Fotos und folgte einschlägigen User:innen und Hashtags. Nach nur wenigen Tagen, ihr Fazit: Der Instagram Algorithmus schlägt (genau, wie er es sonst auch tut), weitere ähnliche Accounts vor. Sie fand eine toxische Community in der extrem Dünnsein angefeuert, gefeiert und propagiert wird. Die "Facebook Files" belegen, wie sie das Management warnte und wie am Ende nichts geschah. Denn NDR, WDR und SZ-Journalist:innen konnten mit genau diesem Experiment Monate später mit zahlreichen Testaccounts diesen Mechanismus erneut belegen. 

Dieser Talk gibt Insights in die "Facebook Files", die wir seit Monaten auswerten und verbindet die Dokumente mit eigenen Experimenten und Recherchen. Über Wochen sind wir in die "Mager-Community" von Instagram eingetaucht, haben mit zahlreichen Betroffenen gesprochen, die zwischen Hilflosigkeit und Verzweiflung stehen. So erzählt uns eine Betroffene, wie ihr die Community hilft, aber sie auch tiefer in die Krankheit hineinzieht. Gleichzeitig zum Algorithmus, der immer gleiche Accounts vorschlägt, tummeln sich in dieser Community auch selbsternannte "Mager-Coaches", die versuchen Nacktfotos und Videos von den jungen Frauen zu bekommen - im Gegenzug geben sie vor beim Abnehmen zu helfen. "Kim", die selbst an Depressionen leidet und an Anorexie Nevrvosa erkrankt ist, berichtete uns, wie sehr sie von einem Coach über Wochen manipuliert wurde, ins Extreme zu hungern aber auch sich selbst zu verletzten. Als sie aussteigen wollte, drohte er ihre Nacktfotos und Videos an ihre Instagram-Freund:innen zu schicken.

Facebook (heute Meta) löscht(e) zahlreicher dieser Accounts und trotzdem scheint der Milliardenkonzern hilflos zu sein. Die durch die Journalist:innen gemeldet Accounts blieben bis zur Meldung an die Pressestelle online. "Wachstum steht vor dem Wohlergehen der Nutzer:innen", so berichtet es die Whistleblowerin Frances Haugen, die sich mit mehr 1.200 Dokumenten sich an den US-Senat und den Kongress wandte.

Aktuell wird der "Digital Services Act" in Europa diskutiert, mit ihm soll Big Tech, darunter auch Facebook reguliert werden. Kann das Vorhaben Erfolg haben? Dieser Talk gibt einen Deepdive ins Rabbit Hole.