9,99 Euro für magische Wichs-Avatare

Eine Firma aus Sunnyvale in Kalifornien verspricht auf ihrer Website, Foto- und Video-Bearbeitung zu demokratisieren. Doch stattdessen spuckte mir eine künstliche Intelligenz (KI) 100 magische Avatare aus, von denen 90 Stück bestenfalls als Wichsvorlage für heiße Männerträume zu gebrauchen sind. Der ganze Spaß kostete 9,99 Euro und die Firma schließt ihn ihren AGB die Rückerstattung des Betrags "unter allen Umständen" aus.

Es gibt zwar einen Meldeknopf, den man als unzufriedene*r Nutzer*in des Services drücken kann, auf dem drauf steht "Ich bin mit den Bildern nicht zufrieden", aber als Reaktion bekommt man darauf nur eine Standard-Antwort. Eine echte Stellungnahme eines Menschen blieb ebenso aus wie etwa die Retournierung des eingesetzten Cashes, der per AGB ausgeschlossen ist.

Als Betroffene von Sexualisierung fühlte ich mich nach dem Erhalt des Bildmaterials, das von einer künstlichen Intelligenz (KI) namens Stable Diffusion generiert wurde, extrem unwohl. Es regte mich wahnsinnig auf, so herabgewürdigt worden zu sein, obwohl ich das Bilder-Tool auschließlich mit Fotos von mir in Hoodies oder langen Kleidern gefüttert hatte. Die KI hatte allerdings einen völlig anderen Blickwinkel als ich: Sie nahm sich Elemente aus den Fotos, die ich gar nicht wahrnahm. Und sie setzte überall große Brüste und laszive Posen drauf sowie Gesichter, die nur entfernte Ähnlichkeiten aufwiesen zu meinem. Männer liesen mir als Feedback zukommen: "Ich weiß nicht, worüber du dich aufregst. Die KI hat dich optimiert und verbessert."

Ich fühlte mich aber völlig überrumpelt. Ich hatte keine Möglichkeit, eine derart sexualisierte Darstellung von mir in irgendeiner Form zu verhindern. Muss ich mir das wirklich gefallen lassen, obwohl ich dafür bezahlt habe? Ist das eigentlich verbraucherschutzrechtlich in Ordnung? Würden bei einem Unternehmen, das in Europa sitzt, dieselben Maßstäbe gelten? War ich die Einzige, der das passiert ist? Wie haben sich die anderen gefühlt? Das, und was ich sonst noch daraus und über KI-Bild-Generatoren gelernt habe, möchte ich in dem Vortrag beleuchten.