Snapchat darf Informationen, die Nutzer:innen dem App-internen KI-Chatbot mitteilen, nicht für Werbung nutzen. Das hat das Landgericht Köln entschieden. Nutzer:innen des Foto- und Messenger-Dienstes können auf Snapchat mit dem KI-Chatbot „MyAI“ chatten. Nach Ansicht des Verbraucherzentrale Bundesverband animiere der KI-Bot Nutzer:innen gezielt dazu, persönliche Daten zu teilen. Diese hatte deshalb gegen Snap, dem Unternehmen hinter Snapchat, geklagt und nun vom Landgericht Recht bekommen.
KI-Chatbot verführt zur Preisgabe sensibler Daten
Ramona Pop von der Verbraucherzentrale Bundesverband (VZBV) erklärte: „Der Chatbot gibt sich bei Snapchat als Freund:in aus und ermuntert dazu, ihn mit persönlichen Daten zu füttern. Es entsteht ein Vertrauensverhältnis, das dazu verführt, sensible Informationen von sich preiszugeben. Die Daten werden dann genutzt, um gezielt Werbung auszuspielen.“ Lediglich ein einmaliger Hinweis beim ersten Öffnen der Chatfunktion weise darauf hin, dass Snapchat „angegebene Informationen verwendet, um die Produkte von Snap Inc. zu verbessern und das Nutzererlebnis zu personalisieren, unter anderem Anzeigen.“ Diesen Hinweis müssen Nutzer:innen bestätigen.
Besonders vulnerabel sind in diesem Kontext Minderjährige, argumentiert die VZBV. Diese sind „sich der Gefahren der Weitergabe sensibler Daten noch nicht in gleichem Maße bewusst wie Erwachsene.“ Snapchat wird vor allem von Jugendlichen und jungen Erwachsenen genutzt. Offiziell muss man 13 Jahre alt sein, um die App nutzen zu können. Die Altersverifikation ist jedoch leicht zu täuschen, da Nutzer:innen bei der Anmeldung lediglich ein Geburtsdatum angeben müssen. Unter anderem deshalb ermittelt auch die EU-Kommission gegen die Social-Media-Plattform.
Snap argumentierte vor Gericht, dass viele Nutzer:innen dem Chatbot von sich aus sensible Informationen mitteilen. Die Daten würden dem Unternehmen geradezu „aufgedrängt“. Das Gericht überzeugte diese Argumentation nicht. Stattdessen verwiesen die Richter:innen auf Artikel 9 der Datenschutzgrundverordnung (DSGVO). Die DSGVO besagt, dass die Verarbeitung sensibler persönlicher Informationen verboten ist, sofern Nutzer:innen nicht explizit eingewilligt haben. Dazu zählen unter anderem Angaben zur Gesundheit, religiöser Überzeugung, politische Meinung oder sexuelle Orientierung.
Wie das Gericht deutlich machte, ist es egal, ob die Information proaktiv oder auf Nachfrage geteilt wurde. Aus diesem Grund haben die Richter:innen Snapchat untersagt, „ohne Rechtsgrundlage personenbezogene Daten, die mittels des in der App enthaltenen generativen KI-Chatbots ›MyAl‹ erhoben werden, zu Werbezwecken zu verarbeiten.“
Das Urteil ist noch nicht rechtskräftig. Wie der Spiegel berichtete, plant Snap dagegen vorzugehen.
Alkohol und Glücksspiel als voreingestellte Interessen
Neben der Nutzung persönlicher Informationen für Werbezecke kritisierte die VZBV die Voreinstellungen der App. Nutzer:innen können in den Einstellungen unter Interessen & Lifestyle für sie interessante Themen auswählen. Dabei sind die Kategorien „Alkohol“ und „Glücksspiel“ bereits vorausgewählt – auch bei minderjährigen Nutzer:innen. Dies ist laut VZBV ein Verstoß gegen den Jugendschutz. Werbung für Glücksspiel und Drogen dürfen Kindern und Jugendlichen nicht angezeigt werden.
Auch die EU-Kommission wirft Snapchat vor, dass Minderjährigen Alkohol, Zigaretten und andere Drogen beworben werden. Plattformen müssen solche Inhalte nach dem Digital Services Act jedoch so moderieren, dass diese bestenfalls gar nicht erst angezeigt werden. Sollte das doch der Fall sein, müssen Nutzer:innen sie einfach melden können und die Plattform diese dann schnell entfernen. Die Kommission geht offenbar davon aus, dass Snapchat hinter den gesetzlichen Vorgaben zurückbleibt.
Eine Snap-Sprecherin wies die Vorwürfe gegenüber dem Spiegel zurück: „Wir haben zu keinem Zeitpunkt zugelassen, dass Werbung für Alkohol oder Glücksspieldienste an Minderjährige ausgespielt wird. Dies hätte zu jedem Zeitpunkt gegen die Werberichtlinien von Snap verstoßen.“
Die Kölner Richter:innen gaben den Verbraucherschützern auch hierbei Recht. Es spiele keine Rolle, ob Werbung tatsächlich ausgespielt wurde. Die Themen dürfen bei Minderjährigen gar nicht erst vorab ausgewählt werden. Das Gericht beanstandete ebenfalls, dass auf der App die Zustimmung zur Datenverarbeitung für Werbezwecke voreingestellt ist. Nutzer:innen müssen aktiv einwilligen, damit die Datenverarbeitung rechts sei.
Hinweise und Voreinstellungen bei Snapchat
Datenschutzprobleme bei KI-Gesprächen
Mit dem Urteil bestätigen die Richter:innen einen bereits bekannten Grundsatz: Privacy-by-Default. Digitale Dienste müssen durch die Voreinstellungen bereits den höchstmöglichen Datenschutz gewährleisten. Will ein Unternehmen persönliche Informationen über die technisch notwendigen Daten hinaus verarbeiten, braucht es die aktive Zustimmung der Nutzer:innen. Voreinstellungen durch den Dienst, denen Nutzer:innen nicht aktiv widersprechen, ersetzen keine aktive Zustimmung nicht. Auch ein Hinweis beim Chat mit einem KI-System ersetzt keine Zustimmung, dass die Daten für Werbezwecke genutzt werden dürfen. Vor allem nicht, wenn der Aufbau und Interaktion des Chatbots darauf ausgelegt ist, dass Nutzer:innen so viele persönliche Informationen wie möglich preisgeben.
Generell stellt sich die Frage, wie Unternehmen Informationen nutzen dürfen, die Menschen einem Chatbot in einer scheinbar persönlichen Unterhaltung anvertrauen. Das Landgericht Köln macht deutlich, dass sich Anbieter nicht darauf zurückziehen können, sensible Informationen seien ihnen freiwillig „aufgedrängt“ worden. Wer einen Chatbot so gestaltet, dass Nutzer offen mit ihm kommunizieren und persönliche Fragen stellen können, muss damit rechnen, dass dabei auch besonders geschützte Informationen preisgegeben werden.
Es handelt sich zunächst lediglich um die Entscheidung eines einzelnen Landgerichts. Dennoch könnte es ein wichtiges Signal für den Umgang mit Werbung bei KI-Chats sein, wenn die Auswertung von Gesprächsinhalten eine ausdrückliche Einwilligung voraussetzt. Je stärker Chatbots in persönliche Lebensbereiche vordringen und je stärker Unternehmen Gesprächsinhalte wirtschaftlich nutzen wollen, desto wichtiger wird die Trennung zwischen der Bereitstellung des Dienstes und der Verwendung der dabei anfallenden Daten für Werbung oder Profilbildung.
Auch ChatGPT schaltet seit August in der kostenlosen Version Werbung in mehreren europäischen Ländern, darunter auch Deutschland. Dort werden Anzeigen unter anderem kontextbezogen und aus dem aktuellen Chatverlauf abgeleitet angezeigt. Wer in einem aktuellen Chat nach günstigen Laufschuhen für einen Marathon fragt, kann Anzeigen zu Laufschuhen bekommen. Entgehen können Nutzer:innen dem nur, wenn sie mindestens in die Pro-Version investieren. Konten, die Minderjährigen zugerechnet werden, sollen ebenfalls keine Werbung erhalten. Anders als z.B in den USA müssen europäische Nutzer:innen personalisierten Werbeanzeigen allerdings aktiv zustimmen.