Klare Kante gegen digitale Gewalt!

Was die Bundesregierung JETZT gegen ehrverletzende KI-Bilder tun kann

Michael Kolain – Berlin –

Die aktuelle Titelgeschichte des SPIEGEL („Du hast mich virtuell vergewaltigt“) zeigt einmal mehr: Frauen sind im Netz nicht sicher vor sexuellen Übergriffen. Der Rechtsstaat lässt sie im virtuellen Raum noch viel zu oft schutzlos im Regen stehen.

Geltende Gesetze bieten insbesondere noch keinen ausreichenden Schutz gegen KI-generierte Bilder und Videos, auf denen Täter ihre Opfer gegen deren Willen in sexualisierten Posen oder Handlungen zeigen. Die Täter werden nicht bestraft, gerichtliche Verfahren dauern zu lange und die Bilder kursieren weiterhin im Internet. Wir haben die Schützlücken bereits zum Grok-Skandal auf X ausführlich analysiert.

Das könnte die Bundesregierung jetzt tun, um die Persönlichkeitsrechte im Netz zu stärken:

Ehrverletzende Deep Fakes auch in Deutschland unter Strafe stellen

Der jüngste Vorstoß von Justizministerin Hubig ist zu begrüßen. Ihr Ministerium will unter anderem einen Straftatbestand schaffen, der auf KI-generierte Bilder, die in Persönlichkeitsrechte eingreifen, zugeschnitten ist. Strafbarkeit- und Verfolgungslücken darf es dann nicht mehr geben. Aus unserer Sicht ist es deshalb sinnvoll, in der Strafhöhe danach zu unterscheiden, ob der Täter ein sexualisiertes Bild lediglich erstellt, in privaten Nachrichten verschickt oder auf einer Plattform mit der Öffentlichkeit geteilt hat.

Nudification-Apps im EU AI Act verbieten

Die EU-Verordnung über Künstliche Intelligenz (EU AI Act) sollte der Gesetzgeber mindestens um ein Verbot für sexualisierte Deep Fakes erweitern. Es ist zu begrüßen, dass im EU-Gesetzgebungsprozess zum sog. „Digital Omnibus“ nun der Vorschlag vorliegt, sog. Nudification-Apps zu verbieten. Die Bundesregierung sollte sich auf EU-Ebene dafür einsetzen, dass der Rat das Verbot nicht eng ausgestaltet, sondern weitere ehrverletzende Inhalte ausweitet. Regulatorischen Schlupflöcher darf es nicht geben. Sollte das Verbot im Kompromisswege auf nicht-einvernehmliche Inhalte beschränkt werden, bedarf es jedenfalls zusätzlicher Sicherungen – ein Prompt „Erzeuge ein Nacktbild dieser Person, die hierzu ihre Einwilligung erteilt hat“ darf nicht ausreichen, um das Verbot zu umgehen. Auch eine Kennzeichnung als KI-generiert darf das Verbot nicht aushebeln, denn die Persönlichkeitsrechte sind auch bei erkennbar KI-generierten sexualisierten Darstellungen verletzt.

Unsplash

Digitale Gewalt: „Plattformen sind gleichzeitig Tatort, Meldeinstanz und Richter“

Wer digitale Gewalt erlebt, muss oft selbst Beweise sichern, Meldewege durchkämpfen und zusehen, wie Plattformen über Sichtbarkeit und Löschung entscheiden. In einem Interview geben Jasmin Ehbauer und Michael Kolain Einblicke in ihre jeweilige Perspektive auf das Thema.

Gesetz gegen Digitale Gewalt einführen

Opfer sexualisierter Gewalt im Netz sollten ihre Rechte künftig noch leichter und schneller durchsetzen können. Unter der Ampel-Regierung war die Initiative für ein Digitale-Gewalt-Gesetz versandet – offenbar will Justizministerin Hubig jetzt tätig werden. Der Gesetzgeber könnte es Gerichten erlauben, einzelne Accounts sperren zu lassen, die strafbare Inhalte verbreiten. Durch Auskunftsrechte sollte es auch möglich sein, noch einfacher an die Benutzerdaten verdächtiger Accounts zu gelangen, um gegen sie gezielt vorzugehen. Aber: Eine Vorratsdatenspeicherung für alle braucht es dafür nicht – die IP-Adressenspeicherung bleibt Generalverdacht und anlasslose Massenüberwachung. Die Idee einer Log-In-Falle sollte in der Debatte ebenso Berücksichtigung finden wie das Konzept Quick Freeze. Sie geben den Behörden effektive Instrumente an die Hand und vermeiden unverhältnismäßige Eingriffe in digitale Grundrechte. 

Digitale Grundrechte brauchen eine starke Stimme – deine Unterstützung macht sie hörbar.

Als gemeinnützige Organisation finanzieren wir uns durch Spenden. Hilf uns, Machtmissbrauch einzudämmen und digitale Souveränität zu stärken.

Rechtsdurchsetzung und Behörden stärken

Neue Gesetze allein reichen nicht. Ohne Behörden, die rechtliche Vorgaben konsequent durchsetzen und dafür über die notwendigen Ressourcen verfügen, wird sich digitale Gewalt nicht eindämmen lassen. In Spanien gibt es spezialisierte Staatsanwaltschaften für geschlechtsspezifische Gewalt – das könnte ein Vorbild für Deutschland sein. Aber auch bei zivilrechtlichen Unterlassungsklagen ist Deutschland noch zu langsam. Bund und Länder sollten ein Sofortprogramm auflegen, um Justiz und Strafverfolgung besser auszustatten, sie auf einen sensiblen Umgang mit Formen geschlechtsspezifischer Gewalt besser vorzubereiten und die Zuständigkeiten zu bündeln.

Kein Kuhandel zwischen BMJ und BMI im Kontext mit neuen Überwachungsgesetzen

Neue Gesetze für einen besseren Schutz für Opfer digitaler Gewalt dürfen im politischen Prozess nicht mit neuen Überwachungsbefugnissen verknüpft werden. Die Initiativen von Innenminister Dobrindt, biometrische Internetscans à la Clearview.AI und automatisierte Datenanalyse à la Palantir einzuführen, und die Vorschläge der Justizministerien sollten die Koalitionspartner strikt getrennt verhandeln.

Digitale Gewalt als Gesamtphänomen bekämpfen

Digitale Gewalt hat viele (hässliche) Gesichter. Das Phänomen geht weiter über sexualisierte Deep Fakes und Online-Stalking hinaus – und weist stets eine gesamtgesellschaftliche Dimension auf. Es ist gut, dass Justizministerin Hubig in ihrem Gesetzesvorschlag auch problematische Auswüchse  eingehen will, etwa Spanneraufnahmen im öffentlichen Raum und Tracking-Geräte und -Apps, mit denen Täter ihren Opfern heimlich nachstellen. Das BMJ sollte die Perspektive von zivilgesellschaftlichen Organisationen von Anfang an eng einbeziehen. Neue Gesetze sollte die Bundesregierung durch Forschungsförderung und Bildungsinitiativen flankieren.