Dieses Interview konnten unsere Newsletter-Abonnent:innen bereits vorab lesen. Für frühere Einblicke, Analysen und Gespräche zu digitalen Rechten hier zum Newsletter anmelden.
Vor fünf Jahren veröffentlichte Whistleblowerin Frances Haugen interne Dokumente des Facebook-Konzerns. Die „Facebook Files“ zeigten, wie genau das Unternehmen über die Risiken und negativen Folgen seiner Plattformen Bescheid wusste. In den geleakten Unterlagen tauchte auch Forschung von Anneke Buffone auf.
Die gebürtige Deutsche arbeitete fast sieben Jahre lang im Maschinenraum des Meta-Konzerns. Sie forschte unter anderem zu problematischem Nutzungsverhalten, Bildschirmzeit-Kontrollen und Methoden zur Altersüberprüfung. Nach den Leaks durfte sie bestimmte Fragen nicht mehr stellen und sicherheitskritische Forschungserkenntnisse nur noch abgeschwächt formulieren. 2025 entließ Meta Buffone schließlich.
Zuletzt sagte sie als Sachverständige im Prozess gegen Meta im US-Bundesstaat Tennessee aus. Dort wird Meta vorgeworfen, Instagram bewusst suchtfördernd gestaltet und negative Folgen für Kinder und Jugendliche billigend in Kauf genommen zu haben. Heute setzt sich Buffone für systemische Veränderungen ein, um Kinder und Jugendliche im Internet besser zu schützen. Wir haben mit Anneke über ihre Zeit bei Meta gesprochen.
Digitalrechte: Die unternehmensinterne Forschung, an der du bei Meta gearbeitet hattest, tauchte 2021 in den Facebook Files und im Wall Street Journal auf. Was ging dir durch den Kopf, als du über deine eigene Arbeit plötzlich in den Medien gelesen hast?
Buffone: Es war eine stressige Zeit. Das erste Mal kam ich damit in Berührung, als ich noch bei Meta gearbeitet habe. Plötzlich hieß es, im Wall Street Journal sei ein großer Artikel erschienen. Und dann war tatsächlich meine Forschung über das Suchtpotential von sozialen Medien mit dabei. Danach war natürlich viel los. Ich habe mir damals auch sehr persönliche Sorgen gemacht, weil ich nicht wusste, ob und welche Konsequenzen es für mich hat, in den Files vorzukommen.
Digitalrechte: Wie war denn die Reaktion im Unternehmen? Konnte man vorher ahnen, dass so etwas passieren würde?
Buffone: Nein, ich habe das überhaupt nicht kommen sehen. Informationen leaken war natürlich verboten, aber vor allem tat man so etwas einfach nicht. Das verstieß gegen eine Art internen Ehrenkodex. Viele Mitarbeiter hatten das Gefühl, gemeinsam an diesen Produkten zu arbeiten und sie besser und sicherer zu machen. Als die Dokumente veröffentlicht wurden, kam das deshalb für viele von uns überraschend.
Am Anfang wussten wir auch intern nicht, wie weitreichend die Leaks waren oder wie genau sie zustande gekommen waren. Vieles haben wir im Grunde zeitgleich mit der Öffentlichkeit erfahren. Ich und einige andere Forscher hatten die Befürchtung, dass das Unternehmen die eigene Forschung nachträglich als begrenzt oder methodisch problematisch darstellen würde, um sich selbst zu verteidigen. Das ist meiner Ansicht nach auch ein Stück weit passiert. Was ich ebenfalls sehr enttäuschend fand, war, dass Meta nicht gesagt hat "Wir machen jetzt mehr Forschung und bauen nachweislich sicherere Produkte", sondern stattdessen die Sicherheitsforschung immer stärker eingeschränkt hat.
Digitalrechte: Du hast als User-Experience-Forscherin bei Meta gearbeitet. Was genau hast du untersucht?
Buffone: Angefangen habe ich als Wellbeing-Forscherin. Ich habe viel zu „excessive use“ und „addiction“, also zu übermäßiger Nutzung und Suchtpotenzial der Plattform, geforscht. Außerdem ging es viel um die Frage: Welche Probleme erleben Nutzerinnen und Nutzer auf Facebook? Unter meiner Leitung wurden dazu Umfragen verschickt. Daraus entstand eine Liste mit ungefähr hundert wiederkehrenden Problemen. Dazu gehörten sehr unterschiedliche Dinge – etwa zu viel Werbung, zu viele Benachrichtigungen, politische Inhalte, problematische Nachrichtenquellen oder auch das Gefühl, dass die Nutzung die eigenen Emotionen und das Wohlbefinden negativ beeinflusst.
Ich war auch in einem übergreifenden Team tätig, das unter anderem untersucht hat, warum einem Nutzer bestimmte Inhalte in einer bestimmten Reihenfolge angezeigt werden. Am Ende habe ich an Altersbegrenzungen und Einstellungen zum Jugendschutz gearbeitet. Dadurch dass ich in sehr unterschiedlichen Bereich tätig war, habe ich sowohl Sicherheits- als auch Wachstumsfragen aus nächster Nähe begleitet.
Kein Platz für Sicherheit?
Digitalrechte: Auf der einen Seite soll eine Plattform sicherer für die Nutzer:innen werden, auf der anderen Seite soll die Plattform möglichst schnell wachsen und die Aufmerksamkeit der Menschen möglichst lange halten. Ist das nicht ein grundlegender Widerspruch?
Buffone: Für mich persönlich war das zunächst kein Widerspruch. Ich glaube, ein gutes Produkt kann nur entstehen, wenn man beides berücksichtigt. Ein extrem sicheres Produkt, das niemand nutzen möchte, funktioniert nicht. Umgekehrt ist ein maximal fesselndes Produkt problematisch, wenn Sicherheit und Wohlbefinden der User keine Rolle spielen. Langfristig stört das schließlich auch die Nutzerinnen und Nutzer selbst.
Ich vergleiche das gern mit einem Auto: Stellen wir uns vor, das Auto wird in einem Land gebaut, Sicherheitsgurte und Airbags aber in einem anderen. Die Teams sprechen kaum miteinander und verfolgen unterschiedliche Ziele. Am Ende kommt das Sicherheitspaket an, aber im Auto ist gar kein Platz dafür – oder es passt nicht zum Rest des Designs. Sicherheit muss deshalb von Anfang an in die Produktentwicklung eingebettet sein. Gerade bei Algorithmen, die Nachrichten, politische Inhalte oder Gesundheitsinformationen ausspielen, gibt es keine echte Neutralität.
Digitalrechte: Dein Job war es also, Risiken zu erkennen und dann Empfehlungen abzugeben, um die Sicherheit zu erhöhen. Was passierte, wenn deine Forschung für Meta unangenehme Ergebnisse hervorbrachte?
Buffone: Als ich bei Meta angefangen habe, war die Atmosphäre eine andere. Es gab Poster an der Wand, auf denen sowas stand wie "Give more than you take" oder "This is now your company." Ich komme aus den Sozialwissenschaften und war selbst eher idealistisch. Genau das hat mich damals auch überzeugt, den Job überhaupt anzunehmen. Zu Beginn hieß es auch ausdrücklich, dass Forscher wichtig seien, weil sie die Bedürfnisse des Verbrauchers in die Produktentwicklung bringen. Wir sollten als Expertinnen und Experten sagen, wo Probleme liegen und wie Produkte besser werden können. Schon damals durfte man nichts untersuchen, was den Interessen des Unternehmens von vornherein zuwiderläuft. Aber man konnte durchaus zu Ergebnissen kommen, die für das Unternehmen unangenehm waren, zum Beispiel zum Suchtpotenzial. Mit der Zeit wurde unsere Forschung immer stärker eingeschränkt.
Digitalrechte: Wie hat sich diese Einschränkung konkret gezeigt?
Buffone: Es ist schwierig ergebnisoffen zu forschen, wenn man bestimmte Fragen nicht stellen kann. Ein Beispiel, über das ich auch vor Gericht gesprochen habe: Es ist schwer herauszufinden, wie man Kinder von einer Plattform fernhält, wenn das Unternehmen die eigenen Forscher nicht einmal danach fragen lässt, ob und wie Unter-13-Jährige diese Apps nutzen. So kann man keine Sicherheitsforschung machen. Wenn der Job darin besteht, Probleme zu erkennen, man aber gerade die entscheidenden Fragen nicht stellen oder die Ergebnisse nicht deutlich formulieren darf, verliert die Forschung ihre Wirkung.
Poster aus dem Meta-Büro
Aus „Meta muss“ wurde „Meta könnte“
Digitalrechte: Dass die Wirkungskraft der Forschungsteams eingeschränkt wurde, war ein langsamer Prozess. Wie hat sich die Firmenpolitik zur Forschung nach Frances Haugens Leak noch geändert?
Buffone: Sicherheitsforschung wurde danach stärker an einzelne Teams gebunden, die formal für Sicherheit zuständig waren. Früher konnte man auch als Forscher in einem Produktteam nach möglichen Sicherheitsrisiken fragen, die aus dem zu entwickelnden Produkt entstehen. Nach den Leaks musste erst ein zuständiges Safety-Team gefunden und eingebunden werden. Außerdem wurden Prozesse länger und komplizierter. Und wenn Forschung sehr lange dauert, viele Freigaben braucht oder mit zusätzlichen Regeln verbunden ist, wird sie schlicht seltener gemacht.
Dazu kamen sogenannte „Narrative Excellence“-Regeln. Das waren interne Vorgaben, wie Forscher Erkenntnisse und Empfehlungen formulieren sollen. Früher hieß es, wir sollen nicht wie Akademiker schreiben, sondern immer konkrete Vorschläge machen, was Produktentwickler ändern sollen. Genau das ist in einem Unternehmen auch die Aufgabe angewandter Forschung. Nach den Leaks sollten wir unsere Empfehlungen vorsichtiger formulieren. Aus „Facebook muss X tun“ wurde eher „Facebook könnte erwägen, X zu tun“. Das klingt jetzt vielleicht nicht gravierend und juristisch sichert man sich so ab. Aber für Forschung und Produktentwicklung macht das einen Unterschied. Diese Teams haben Dutzende konkurrierender Anforderungen und sehr viel Druck, Wachstum und Nutzung zu steigern. Gebaut wird, was dringend wirkt. Formuliert man Empfehlungen für Maßnahmen als weniger dringlich, werden sie zur Kenntnis genommen, landen hinter den Wachstumszielen und werden nicht umgesetzt.
Digitalrechte: Gab es Empfehlungen von Forscher:innen, die zu einem sichereren Produkt geführt hätte, aber nicht umgesetzt wurden?
Buffone: Ja, sehr viele. Ein Beispiel stammt aus meiner frühen Arbeit zum Suchtpotenzial bei Jugendlichen. Unsere Forschung hat gezeigt, dass ein erheblicher Teil der Nutzer das Gefühl hatte, die eigene Nutzung nicht vollständig unter Kontrolle zu haben. Wir fanden Ansätze, die helfen könnten – etwa Screen-Time-Erinnerungen oder Veränderungen bei Benachrichtigungen. Eigentlich sollte das für ein Unternehmen ein Erfolgserlebnis sein: Problem erkannt, mögliche Lösungen gefunden, das Produkt wird verbessert. Bei erfolgreichen Ergebnissen würde man zusätzliche Ressourcen erwarten. Aber dann wurde das Team plötzlich aufgelöst und die Arbeit eingestellt.
Digitalrechte: Wie kam die Führungsebene bei Meta damit durch?
Ein strukturelles Problem sehe ich darin, wenn am Ende sehr wenige Personen große Entscheidungen treffen können. Selbst wenn viele Teams Daten vorlegen und gute Vorschläge für ein sichereres Produkt machen, kann eine einzelne Führungsperson diese Vorschläge einfach ablehnen. Das führt dazu, dass man irgendwann bestimmte Dinge gar nicht mehr vorschlägt, weil man schon weiß, dass sie keine Chance haben. So entsteht eine Form von kollektivem Anpassungsdruck.
Verweildauer schlägt Wohlbefinden
Digitalrechte: Das klingt stark danach, dass Meta die Risiken seiner Plattformen sehr genau kannte und trotzdem wenig dagegen unternommen hat. Stimmt das?
Buffone: Ja, auf jeden Fall. Ich denke, alle großen Plattformunternehmen kennen die Risiken. Das gilt genauso für KI-Unternehmen. Und trotzdem bauen sie ihre Produkte mit der Verweildauer als wichtigstes Ziel. Natürlich bedenken sie auch andere Aspekte, wie etwa Sicherheit und Wellbeing. Die haben aber nicht den gleichen Stellenwert. Man muss allerdings dazu sagen, dass Verweildauer auch leicht messbar ist: Bleibt der Mensch auf der Plattform oder nicht? Wellbeing ist viel schwerer zu messen.
Nenn mir doch mal zwei Sachen, die dir gut tun.
Digitalrechte: Sport und frische Luft.
Buffone: Das ist ein gutes Beispiel. Denn es wäre trotzdem keine gute Idee, dir automatisch 150 Videos über Diäten und Extremsport zu zeigen. Das könnte sogar schädlich werden. Selbst wenn man Menschen fragt, was ihnen guttut, kann man daraus also nicht direkt einen Algorithmus bauen. Dasselbe gilt für Desinformation bei Gesundheitsthemen, politische Inhalte oder der Frage, wer eigentlich als glaubwürdiger Experte gelten sollte.
Deshalb halte ich die Unterscheidung zwischen impliziten und expliziten Signalen für sehr wichtig. Ein implizites Signal ist zum Beispiel, dass man ein Video lange anschaut. Das kann alles mögliche bedeuten: Interesse, Schock, Ablehnung oder bloße Überraschung. Ein explizites Signal wäre dagegen: „Ich möchte mehr davon sehen“ oder „Ich möchte weniger davon sehen.“ Ich glaube, Ranking-Systeme sollten viel stärker auf solchen expliziten Entscheidungen beruhen.
Digitalrechte: Du würdest also stärker auf direkte Rückfragen an Nutzerinnen und Nutzer setzen?
Buffone: Genau. Wenn jemand einen Inhalt lange ansieht, wissen wir nicht, warum. Wenn man aber direkt fragt: „Willst du mehr oder weniger davon sehen?“, ist das ein wesentlich aussagekräftigeres Signal. Das machen manche Apps (z.B. auch die von Meta) auch schon viel mehr als noch vor ein paar Jahren. Natürlich ist auch das nicht perfekt. Aber es ist näher an einer tatsächlichen Entscheidung der Person.
„Ich war Teil des Systems“
Digitalrechte: Trotz all der Einschränkungen nach dem Leak bist du bis 2025 bei Meta geblieben. Warum hast du so lange weitergemacht?
Buffone: Ich bin erst 2019 zu Meta gekommen, also nach Cambridge Analytica. Gerade deshalb habe ich den Job angenommen. Damals war Facebooks Botschaft "Das ist schiefgelaufen, wir müssen es besser machen". Ich hatte wirklich das Gefühl, dass das Unternehmen daraus lernen wollte. Geblieben bin ich nach dem Leak 2021 wie viele andere Sicherheitsforscher auch, weil ich dachte: Wenn wir alle gehen, wer sagt dann noch etwas? Ich habe versucht, mich für andere Forscher einzusetzen und weiter auf Probleme hinzuweisen. Selbst wenn etwas nicht schriftlich festgehalten werden konnte, konnte man in Meetings darüber sprechen und Produktteams beeinflussen. Ob es richtig oder falsch war, so lange zu bleiben, kann ich rückblickend nicht sagen.
Digitalrechte: Fühlst du dich mitverantwortlich für den gesundheitsschädigenden Aufbau der Social Media-Plattformen von Meta?
Buffone: Ja, natürlich. Ich denke zwar, dass meine Forschung und die Empfehlungen, die ich gegeben habe, wichtig und richtig waren. Meine Stimme hat aber letztlich nicht ausgereicht, um wirklich etwas zu verändern. Und natürlich war ich trotz meiner Empfehlungen Teil des Systems. Mir ist bewusst, dass nicht alles, was ich bei Meta getan habe, gut für die Welt war. Deshalb ist es mir heute wichtig, das Wissen, das ich dort gesammelt habe, für Regulierung zu nutzen. Ich hoffe, dass daraus am Ende ein positiver Beitrag entsteht.
Digitalrechte: Du wurdest 2025 entlassen, unter anderem wegen der Regeln, wie Forschung kommuniziert werden sollte. Was genau ist passiert?
Buffone: Ich hatte große Schwierigkeiten, mich an die genannten „Narrative Excellence“-Regeln zu halten. Das war dann auch die Begründung für meine Entlassung. Im Grunde war ich erleichtert. Solange ich im Unternehmen war, hatte ich immer das Gefühl, dort noch eine Verantwortung zu tragen. Selbst wenn Meta eine Empfehlung nicht umgesetzt hat, war es wichtig, dass sie überhaupt ausgesprochen und dokumentiert wurde. Gleichzeitig macht mir die Signalwirkung Sorgen. Wenn andere Forscher sehen, dass Menschen wegen so etwas entlassen werden, beeinflusst das natürlich, wie offen man Sicherheitsprobleme überhaupt noch anspricht.
Sie konnte nicht mehr schweigen
Digitalrechte: War diese Entwicklung auch der Grund, warum du später vor Gericht ausgesagt hast?
Buffone: Ja, sie war ein wichtiger Teil davon. Ich hatte über längere Zeit öffentliche Aussagen von Meta-Vertretern gesehen – auch vor Gericht – die falsch oder unvollständig waren. Obwohl Meta es besser hätte wissen müssen. Ich habe irgendwann für mich entschieden, dass ich es nicht mehr mit dem eigenen Gewissen vereinbaren kann, zu schweigen. Eigentlich sehe ich mich als loyalen Menschen. Mir sind Vertrauen und gute Beziehungen zu Vorgesetzten wichtig. Aber alles hat eine Grenze.
Außerdem ist es für viele ehemalige Mitarbeiter kaum möglich, sich gegen Meta zu äußern, wenn sie weiter in der Tech-Branche arbeiten wollen. Ich hatte mich zu diesem Zeitpunkt schon entschieden, meine Arbeit künftig gemeinnützig fortzusetzen und kein Geld mehr von Tech-Unternehmen anzunehmen. Und wenn nicht Menschen wie ich˗ – mit Insider-Wissen aus dem Unternehmen und fachlicher Expertise – ihre Stimme nutzen, wer soll es dann tun?
Digitalrechte: Du setzt dich aktuell für bessere Regulierung für Online-Plattformen und Social Media ein. Wie sieht das aus?
Buffone: Ich arbeite heute vor allem daran, gemeinsam mit Gesetzgebern zu überlegen, wie wir bei der Regulierung die richtigen Weichen stellen können. Mir geht es darum, soziale Medien so zu gestalten, dass sie für Menschen sicherer sind und ihre Privatsphäre und ihren freien Willen besser schützen. Dafür müssen wir weiter forschen und mehr unabhängige Expertise in die politische Debatte einbringen. Gleichzeitig versuche ich, Verbraucher besser darüber aufzuklären, wie diese Apps funktionieren und welche Risiken unterschiedliche Plattformen haben. Denn Regulierung ist wichtig – aber auch Nutzer haben mehr Einfluss, als sie oft denken.
Digitalrechte: Inwiefern?
Buffone: Nutzer können bei Inhalten „nicht interessiert“ auswählen, Inhalte melden, Accounts entflogen, die Bildschirmzeit beschränken, Apps schlecht bewerten oder problematische Erfahrungen öffentlich machen. Man kann auch den eigenen Feed beeinflussen, indem man problematische Inhalte schnell wegwischt und bewusst nach anderen Themen sucht. Unternehmen reagieren darauf, wie Menschen ihre Produkte nutzen. Wenn immer mehr Menschen bestimmte Mechanismen ablehnen oder Apps wegen problematischer Praktiken verlassen, hat das wirtschaftliche Folgen. Das allein ersetzt keine Regulierung. Gerade bei Privatsphäre, Haftung oder grundsätzlichen Designfragen brauchen wir Regulierung. Aber informierte Nutzer können zusätzlichen Druck erzeugen.
Digitalrechte: Vielen Dank für das Gespräch!