Digitale Gewalt: "Plattformen sind gleichzeitig Tatort, Meldeinstanz und Richter“

Das Thema digitale Gewalt hat in den letzten Wochen für eine intensive öffentliche Debatte gesorgt. Als Zentrum für Digitalrechte und Demokratie haben wir die rechtlichen und digitalpolitischen Fragen in unserer Arbeit aufgegriffen, aber auch auf persönlicher Ebene miteinander intensiv diskutiert. In einem Interview mit der Redaktion geben uns Jasmin und Michael nähere Einblicke in ihre jeweilige Perspektive.

Seit der SPIEGEL-Titelstory, in der Collien Fernandes darüber berichtet, was ihr Ex-Mann ihr angetan hat, diskutiert Deutschland über digitale Gewalt. Wie nehmt ihr die Debatte ganz persönlich wahr?

Jasmin: Ich bewundere Collien Fernandes und bin sehr dankbar dafür, dass sie ihre Erfahrungen öffentlich macht und für sich und andere Frauen* einsteht. Auch für mich ist die Angst vor Gewalt alltäglich und ich kann es mir nicht leisten, mich auf bloße Schutzversprechen zu verlassen.

Michael: Mich hat im ersten Moment erschüttert, dass sich hinter der Maske eines Mannes, der sich öffentlich gerne als Vorreiter des Feminismus präsentiert hat, eine ganz andere Person versteckt: Machtdemonstrationen, häusliche Gewalt, Entwürdigung der eigenen Partnerin. Das ist etwas anderes als der Tätertyp Harvey Weinstein. Mir hat das nochmal deutlich vor Augen geführt: Auf Worte kann man sich nicht verlassen, sondern es gilt, Männer vor allem an ihrem Verhalten zu messen. Wie leicht es anderen Männern fiel zu sagen, das habe mit ihnen ja alles gar nichts zu tun, hat mich irritiert.

Jasmin: Scheinbar niemand ist Täter und doch erfahren Frauen tagtäglich Gewalt. Ich bin müde davon, dass Frauen und INTA*-Personen seit Jahren von solchen Fällen berichten, seit Jahren bessere und vor allem präventive Schutzmaßnahmen fordern und sich doch so wenig tut. Wenn Gewalterfahrungen medial viel Aufmerksamkeit erhalten, dann meist, weil prominente Personen involviert sind oder Gewalttaten besonders grausam und brutal sind. Und dann rollt eine Schockwelle durch die Gesellschaft, Männer zeigen sich bestürzt und die Politik verspricht, nicht länger wegzusehen. Und am besten nutzt man(n) die Gelegenheit, um zu betonen: Es sind auch nicht alle Männer ...

Michael: In meiner Rolle als Mann finde ich: Wir sollten noch viel genauer hinhören und hinschauen, wenn Frauen von toxischen Dynamiken berichten und auch im eigenen Umfeld noch viel wachsamer sein. Daraus gilt es, persönliche Konsequenzen ziehen: Solidarität und praktische Unterstützung, aber eben auch Selbstreflexion, Verhaltensänderung und null Toleranz für Gewalt.

Betroffene sind in der Beweislast

Collien Fernandes hat mehrmals vergeblich versucht, gefälschte Aufnahmen und Deepfakes mithilfe von Anwälten und entsprechenden Löschaufforderungen aus dem Netz zu bekommen. Warum ist es so schwierig, solche Inhalte schnell entfernen zu lassen? 

Michael: Es ist ein Spießrutenlauf, die Plattformen anzuschreiben und Beweise vorzulegen, Unterlassungsklagen einzureichen und auf seine Rechte zu pochen. Selbst wenn das im Einzelfall mal nach Monaten und hohen Kosten klappt– am Ende taucht das Bild oder Video auf einer anderen Plattform auf, die für die deutsche Justiz nicht greifbar ist. Organisationen wie HateAid beklagen das seit Jahren. Das sind kafkaeske Vorgänge.

Jasmin: Betroffene müssen Beweise selbst sichern, indem sie Screenshots machen, Nutzernamen dokumentieren und gegenüber den Plattformen rechtfertigen, warum der Inhalt gewaltvoll ist. Das kann extrem belastend und retraumatisierend sein. Zumal die erlebte Gewalt oft viel komplexer ist als die Auswahlfelder in den Meldeformularen. Ein Deepfake kann gleichzeitig sexualisierte Gewalt, Identitätsmissbrauch und Rufschädigung sein. Als normale Person weiß man nicht, welche Auswirkungen die eine oder andere Auswahlmöglichkeit auf die Chance hat, dass die Plattform die Inhalte entfernt.

Michael: Mit dem Digital Services Act gibt es in der EU zwar immerhin ein rechtliches Rahmenwerk, um gegen rechtswidrige Inhalte vorzugehen – aber die Umsetzung steckt noch in den Kinderschuhen. Und jetzt geraten die EU-Digitalgesetze auch noch unter Beschuss durch die US-Regierung, die sich schützend vor Big Tech stellt. Für Opfer digitaler Gewalt ist das eine Katastrophe.

Gesetz gegen digitale Gewalt soll Auskunft über Accounts stärken

Aktuell berät die Bundesregierung über ein Gesetz für Schutz vor digitaler Gewalt. Was ist genau geplant?

Michael: Das Gesetzespaket, das Justizministerin Hubig angekündigt hat, besteht aus verschiedenen Teilen. Im Strafrecht soll es drei neue Tatbestände geben: Sie verbieten die Herstellung und Verbreitung sexualisierender Deepfakes, die Weitergabe sonstiger ehrverletzender Deepfakes und die unbefugte Überwachung durch Tracking-Geräte und -Apps. Digitale Gewalt wird dadurch eindeutig strafbar.

Der zivilrechtliche Teil des Pakets ist noch nicht bekannt – aber dort wird wohl im Vordergrund stehen, dass Gerichte Accounts, die illegale Inhalte teilen oder die Identität einer anderen Person simulieren, leichter sperren lassen können. Auch die Auskunftsrechte von Betroffenen, wer hinter einem bestimmten Account steckt, will das Justizministerium offenbar verbessern. Und vermutlich wird sich das Innenministerium nicht die Chance entgehen lassen, die lang ersehnte – und aus Sicht vieler Expert:innen verfassungswidrige – Vorratsdatenspeicherung mit in das Paket zu schnüren.

Anknüpfungspunkt für Strafbarkeit: Herstellen oder Verbreiten

Bislang ist der Bereich pornographischer Deepfakes nicht eindeutig strafbar. Das Justizministerium schlägt nun vor, nicht nur das Verbreiten, sondern auch das Herstellen solcher Bildaufnahmen unter Strafe zu stellen. Wie ist das zu bewerten?

Michael: Wenn jemand pornographische Deepfakes veröffentlicht, kann es sich schon heute um Beleidigung, Verleumdung, Nachstellen („Stalking“) oder um Straftaten nach dem Kunsturheberrecht handeln. Zugleich macht es Sinn, dass der Gesetzgeber nun Vorschriften schafft, die eindeutig auf das Phänomen Deepfakes zugeschnitten sind. Das verhindert, dass Verfahren mit hohem Unrechtsgehalt wegen rechtlicher Details bis in die Revision zum BGH gehen.

Jasmin: Ich befürworte es, dass die Strafbarkeit nicht erst bei der Verbreitung ansetzt. Bereits das nicht einvernehmliche Erstellen von Bildern und Videos verletzt die sexuelle und körperliche Selbstbestimmung und die Verfügbarkeit über das eigene Bild. Wenn erst der Moment strafbar ist, in dem andere sexualisierte Aufnahmen sehen, wird das Unrecht an die Wahrnehmung durch Dritte geknüpft und nicht an die Verletzung selbst. Neben der Entwürdigung stellt allein das Vorhandensein solcher Aufnahmen, und sei es nur in den Händen einer einzigen Person, eine potentielle Gefahr für Betroffene dar.

Michael: Bereits die Herstellung pornographischer Deepfakes für rein private Zwecke zu verbieten, und nicht erst die Verbreitung, halten einige Stimmen für eine zu starke Vorverlagerung der Strafbarkeit. Sie sagen: Sexuelle Fantasien sind Privatsache. Ich sehe das anders: Nicht nur weil die Erstellung solcher Bilder ein gesellschaftlich intolerables Verhalten darstellt, das Frauen zum Sexobjekt degradiert – sondern auch, weil sich Täter sonst im Prozess darauf berufen würden, die Bilder ja nicht verbreitet, sondern nur hergestellt zu haben. Solange Nudify-Apps nicht auf anderem Wege verboten sind, macht das Strafrecht dem Geschäftsmodell, solche Aufnahmen herzustellen, den Garaus.

Jasmin: Wichtig finde ich noch einen Aspekt: Deepfakes können heute schnell und niedrigschwellig erstellt werden und lassen sich ebenso schnell verbreiten, kopieren, abändern und erneut veröffentlichen. Sobald ein Deepfake einmal digital verfügbar ist, kommen die langsamen Mühlen des Meldens und Löschens nicht gegen eine auf Schnelligkeit gepolte Verbreitungsökonomie an. Wenn der Staat erst bei der Verbreitung eingreift, beginnt der Schutz, wenn es praktisch schon zu spät ist.

Die schnellste Hilfe: rechtswidrige Inhalte löschen

Jenseits des Strafrechts: Was würde Betroffenen von digitaler Gewalt am schnellsten helfen?

Jasmin: Strafrechtliche Prozesse greifen erst nach der Tat, also wenn der Schaden entstanden ist, und bis zum Gerichtsurteil vergehen teilweise Jahre. Am besten wäre es in der Zwischenzeit dort zu unterstützen, wo die Belastung im Alltag am größten ist. Es würde extrem helfen, wenn nicht die Betroffenen selbst die Durchsetzungsarbeit leisten müssten. Es braucht Zugänge zu Hilfestellen, die bei technischen und rechtlichen Fragen unterstützen und psychologisch begleiten können. Gleichzeitig müssen die beratenden Personen sensibel für unterschiedliche (intersektional) marginalisierte Perspektiven und Diskriminierungserfahrungen sein.

Wichtig ist natürlich auch, dass die Plattformen rechtswidrige Inhalte möglichst schnell und ohne komplizierte Meldewege entfernen. Je länger die Inhalte online bleiben, desto mehr Menschen können sie anschauen, herunterladen, bearbeiten und weiterverbreiten.

Michael: Die Strafverfolgungsbehörden müssen sich im Umgang mit digitaler Gewalt gegen Frauen dringend professionalisieren - dazu gehört eine moderne Ausstattung ebenso wie die nötige Sensibilität. Und auch der Zugang  zur Justiz ist noch zu hoch: Viel zu oft ist es eine Frage des Geldbeutels oder der richtigen Anwält:innen, ob die Verfahren erfolgreich sind oder im Sande verlaufen.

Plattformen verletzen ihre Sorgfaltspflicht

Aus der Perspektive der Betroffenen wäre es wünschenswert, dass sexualisierte (Fake-)Aufnahmen gar nicht erst ins Netz kommen. Welche Verantwortung tragen Online-Plattformen?

Jasmin: Für mich ist es perfide, dass Plattformen gleichzeitig Tatort, vermeintliche Meldeinstanz und Richter sind. Durch Meldeformulare gibt eine Plattform zum Beispiel vor, in welchen Kategorien Gewalterfahrungen überhaupt artikulierbar sind. Und wenn Inhalte dann trotz einer Meldung verfügbar bleiben, erklärt die Plattform bestimmte Gewalterfahrungen als legitim – oder zumindest als aushaltbar. Wer betroffen ist, muss die eigene Erfahrung an die Logik des Systems anpassen.

Michael: Die Macht der Plattform ist enorm und sie haben einen starken Einfluss auf unser Leben. Bei jeder neuen gesetzlichen Pflicht, die wir einführen, müssen wir auch darauf achten, dass der demokratische Rechtsstaat am längeren Hebel bleibt. Das erfordert Augenmaß. Für den falschen Weg hielte ich es etwa, den Plattformen vorzuschreiben, alle Inhalte, die Menschen hochladen oder veröffentlichen, auf ihre Echtheit oder Rechtmäßigkeit überprüfen zu müssen. Die Erfahrung zeigt, dass so die Gefahr eines over-blocking entsteht.

Zur Informations- und Meinungsfreiheit gehört es eben auch, dass wir keine Vorzensur durch Unternehmen haben. Der Staat darf seine Kernaufgaben nicht an Konzerne auslagern. Der DSA wählt deshalb einen anderen Weg: Die Plattformen trifft eine Sorgfaltspflicht, und sie müssen gemeldete illegale Inhalte löschen. Wenn wir nun klarstellen, dass pornographische Deepfakes strafbar sind, greifen die Löschansprüche und Plattform-Pflichten aus dem DSA.

Schutz vor digitaler Gewalt rechtfertigt keine Überwachung

Oft wird der Schutz vor digitaler Gewalt genutzt, um neue Überwachungsbefugnisse zu fordern. Wie kommt man schneller an Täterdaten, ohne Betroffenenschutz gegen mehr Überwachung einzutauschen?

Jasmin: In Teilen des Diskurses wird der Schutz Betroffener dem Datenschutz gegenübergestellt, als gäbe es nur ein Entweder-Oder. Es muss aber beides möglich sein. Ein Recht gegen ein anderes auszuspielen, hat noch nie geholfen. Im Gegenteil, Privatsphäre und selektive Sichtbarkeit sind ein wichtiger Selbstschutz für Mitglieder marginalisierter Gruppen.

Diese Abwägung blendet außerdem aus, dass digitale Gewalt gegen Frauen nicht einfach so entsteht, sondern Fortsetzung misogyner Gesellschaftsstrukturen ist. Dieselben Machtlogiken, die sich in Belästigung, Einschüchterung, sexualisierter Gewalt oder sozialer Kontrolle im Alltag zeigen, setzen sich digital fort oder werden dort intensiviert. Gegenmaßnahmen müssen deshalb auch an Strukturen ansetzen, nicht bei der Überwachung von Individuen. Es braucht ein Schutzkonzept, das Machtasymmetrien, Mehrfachdiskriminierung und die Verflechtung von Online- und Offline-Gewalt ernst nimmt.

Michael: Leider nutzt die Politik oft das Argument „Lasst uns Kinder und Frauen besser schützen“ immer wieder, um bestimmte Überwachungsvorhaben zu legitimieren. Die Sicherheitsbehörden nutzen hitzige Debatten gerne, um ihre Wunschliste umzusetzen. Deshalb ist es wichtig, genau hinzuschauen und zu differenzieren. Bessere Auskunftsrechte in Gerichtsverfahren, ein besserer Zugang zur Justiz, sensibilisierte und kompetente Polizeibehörden - das sind hilfreiche Reformen. Aber anlasslose Massenüberwachung darf in einem demokratischen Rechtsstaat keinen Platz bekommen.

Politische Maßnahmen wie eine Klarnamenpflicht, eine IP-Adressspeicherung der gesamten Bevölkerung oder biometrische Internetscans überschreiten rote Linien des Grundgesetzes – und bringen mehr Nachteile für Opfer digitaler Gewalt als Vorteile. Sie zerstören die Anonymität im Internet und geben Staat und Konzernen unheimlich viel Macht über unser Leben.

Mehrfach marginalisierte Frauen müssen gezielt geschützt werden 

Nicht jede Frau ist digitaler Gewalt auf die gleiche Weise ausgesetzt. Wie können Schutzmaßnahmen intersektionale Diskriminierung besser berücksichtigen?

Jasmin: Wer zusätzlich von Rassismus, Queerfeindlichkeit oder Ableismus betroffen ist, erlebt digitale Gewalt oft härter und hat zugleich größere Hürden beim Zugang zu Hilfe und Rechtsschutz. Intersektionalität bedeutet, dass sich verschiedene Macht- und Diskriminierungsverhältnisse überschneiden und dadurch spezifische Formen von Betroffenheit entstehen. Das ist kein Nebenaspekt, sondern elementarer Bestandteil der Tat. Das muss sich in Risikoanalysen, Gesetzen und Unterstützungsangeboten widerspiegeln. Sonst wird zwar die einzelne Tat erfasst, aber nicht die Gewaltstruktur dahinter.

Leider versagen Unterstützungsstrukturen gerade bei intersektionaler Betroffenheit: Mehrfach marginalisierte Frauen wissen nicht, ob Ansprechpersonen ohne vergleichbare Diskriminierungserfahrungen bestimmte Beleidigungen, die auf die Identität als muslimische Frau oder als trans Frau abzielen, überhaupt verstehen oder sie diese erst erklären müssen. Außerdem besteht die Gefahr, dass Ansprechpersonen Betroffene weiter diskriminieren und ihnen zum Beispiel die erlebten intersektionalen Erfahrungen absprechen.

Um Betroffene von intersektionaler Gewalt wirklich zu unterstützen, braucht es zum Beispiel barrierefreie und mehrsprachige Verfahren und spezialisierte Ansprechstellen, sowohl in Form zivilgesellschaftlicher Organisationen als auch bei Polizei und Justiz.