Was passiert hier?
Vor einem Jahr schrieb Mark Zuckerberg in einem Blogbeitrag: Metas Vision ist, allen Menschen eine persönliche Superintelligenz zur Verfügung zu stellen. Diese Vision hat nun einen Körper bekommen. Am 24. September stellte Mark Zuckerberg den “Meta Muse Charm” vor. Ein kleines Gerät mit Kamera, Mikrofon, Fingerabdrucksensor und Bildschirm. Darauf zu sehen: Ein Wesen, das an einen Labubu erinnert. Harmlos, kuschelig und klein. Zu Weihnachten soll das Produkt in den USA verfügbar sein.
Muse ist der Name des KI-Assistenten, den Meta am 8. September in den USA veröffentlichte. Dieser wurde von Millionen Nutzenden heruntergeladen, weil er als KI-Agent viele nützliche Funktionen verspricht, aber weniger technisches Wissen in der Einrichtung voraussetzt als vergleichbare Produkte. Muse kann für einen online einkaufen, Mails schreiben, ja sogar auf Facebook Marketplace Deals aushandeln und Interessenten einladen - dann aber nicht selbst die Tür öffnen.
Vertrauen erwecken, wo keines mehr ist
Würdest du Meta Muse all deine Passwörter, Zahlungsdaten und Informationen über dein Leben geben? Der Konzern Meta, der für Facebook, Instagram und WhatsApp bekannt ist und sein Geld mit personalisierter Werbung verdient, steckt in einer Vertrauenskrise. Milliarden Menschen nutzen die Produkte täglich. Gleichzeitig steht kein anderer Tech-Konzern derart in der Kritik. Dass das gesamte Geschäftsmodell auf Verhaltensüberwachung und personalisierter Werbung beruht, ist bekannt. Dass Social Media Scrolling süchtig und krank machen kann, rückt immer weiter in den Fokus. Zuletzt hat Meta Smart-Glasses eingeführt, die wegen einer Reihe von missbräuchlichen Verwendungsweisen, insbesondere der Aufnahmefunktion, als “Pervert-Glasses” oder auch “Spanner-Brillen” in der Kritik stehen. Als Reaktion darauf kündigte der Konzern an, Varianten ohne Kamera, nur mit Mikrofonen, auf den Markt zu bringen.
Nun wird ein neuer Datensammler ins Rennen geschickt, der so harmlos wie möglich erscheinen soll: Der Meta Muse Charm. Der Guardian hat analysiert, dass diese Verkörperung kein Zufall ist. Im Design angelehnt an Kuscheltiere und Tamagotchis, soll er Bedenken der Nutzer überwinden. Das Ziel von Meta bleibt dabei das gleiche: Möglichst viele Daten sammeln - nicht nur in digitalen, sondern auch in analogen Räumen.
Mark Zuckerberg ist für riskante Wetten bekannt. 2019 investierte er Milliarden in das “Metaverse”. Das kam bei den Kunden nicht gut an. Nun will er Meta in jeden Winkel des echten Lebens bringen. Dabei ist Meta ist im Wettbewerb um KI trotz gigantischer Investitionen in der Rolle des Verfolgers. Metas Vorteil: Es hat die größte Nutzerbasis und ist damit besser in der Lage als andere Firmen, Trainingsdaten zu sammeln. Über seine Anwendungen und Geräte sammelt Meta Gespräche und Videoaufnahmen von Alltagssituationen in einem Umfang, von dem andere nur träumen können. Und weil die Brillen so einen schlechten Ruf haben, versucht er es mit einem Kuscheltier
Ob und wann der Meta Muse Charm auch nach Europa kommt, bleibt abzuwarten. Es kann gut sein, dass er hier kein leichtes Spiel hat. Sowohl beim Daten-, als auch beim Jugendschutz sollten die Marktaufsichtsbehörden ganz genau hinschauen.
Ein Agent im fremden Auftrag
Metas Chief AI Officer Alexandr Wang umschreibt Muse als Assistenten, der Menschen hilft, all ihre Wünsche Wirklichkeit werden zu lassen. Die Handlungsspielräume jedes Einzelnen sollen so erweitert werden. Fast alle Aufgaben lassen sich delegieren. Vieles lässt sich mit ihm besprechen. Außer sich Dinge zu wünschen, soll man nichts mehr machen müssen.
Diese Utopie des Komforts hat eine Kehrseite: Infantilisierung und Abhängigkeit. Und diese Utopie ist außerdem unglaubwürdig, weil sie von Meta kommt. Zu erwarten ist, dass Muse als Agent im Auftrag von Meta und seinen Werbekunden unterwegs ist. Das Geschäftsmodell besteht schließlich nicht darin, Wünsche zu erfüllen, sondern Konsumwünsche zu wecken.
Sich Aufgaben abnehmen zu lassen, einen KI-Agenten im eigenen Auftrag loszuschicken - dafür kann es viele Gründe geben. Vielleicht ist es die Zukunft. Aber der Agent, den Meta dir anbietet, arbeitet für Meta, nicht für dich. Und um davon abzulenken, muss er als Kuscheltier verkleidet werden. Das ist manipulativ. Entweder zielt das Design auf Kinder ab, für die simulierte Beziehungen mit KI-Modellen erwiesenermaßen besonders gefährlich sind. Oder es hat zum Ziel, dass Erwachsene sich wie Kinder verhalten. Zu keiner Handlung fähig, ohne die Hilfe von Meta. Beides ist abzulehnen.