Ashley St Clair, die Mutter von Musks Sohn Romulus, verklagt über „Schmerz und psychische Belastung“, die durch gefälschte KI-Bilder des Grok-Chatbots verursacht wurden.
Die Mutter eines von Elon Musks Kindern hat eine Klage gegen dessen Unternehmen für künstliche Intelligenz eingereicht und behauptet, der Grok-Chatbot habe es Nutzern ermöglicht, sexuell ausbeuterische Tiefeneffekte von ihr zu generieren, die sie gedemütigt und emotional belastet hat.
Die Klage wurde kurz bevor der Generalstaatsanwalt von Kalifornien, Rob Bonta, einen Unterlassungsbrief an Musks xAI-Unternehmen verschickte, in dem er fordert, die Erstellung und Verbreitung von nicht einvernehmlichen sexualisierten Bildern, die von Grok erzeugt wurden, sofort zu stoppen.
Berichte und rechtliche Schritte
Bonta erklärte am Freitag: „Die Flut von Berichten über dieses Material – das gelegentlich Frauen und Kinder in sexueller Aktivität zeigt – ist schockierend und könnte, wie mein Büro festgestellt hat, potenziell illegal sein.“
Ashley St Clair, eine Schriftstellerin und politische Kommentatorin, behauptet in einer am Donnerstag in New York City eingereichten Klage gegen xAI, Opfer von sexualisierten Tiefeneffekten geworden zu sein, die von Grok erzeugt wurden.
St Clair, die Mutter von Musks 16 Monate altem Sohn Romulus, sagte, sie habe die Bilder letztes Jahr gemeldet, nachdem sie erschienen waren, und beantragt, dass sie entfernt werden. Die Plattform antwortete, dass die Bilder gegen ihre Richtlinien nicht verstießen, sagte sie. Anschließend versprach die soziale Plattform, dass Bilder von ihr nicht ohne ihre Zustimmung verwendet oder verändert würden. Später habe die Plattform gegen sie reagiert, indem sie ihr das Premium-Abo und das Verifizierungssymbol entzogen habe und weiterhin herabwürdigende gefälschte Bilder von ihr zuließ, fügte sie hinzu.
„Ich habe unter ernsthaften Schmerzen und psychischer Belastung gelitten und leide weiterhin als Folge der Rolle von xAI bei der Erstellung und Verbreitung dieser digital bearbeiteten Bilder von mir“, sagte St Clair in einem Dokument, das der Klage beigefügt war.
„Ich fühle mich erniedrigt und habe das Gefühl, dass dieser Albtraum nie enden wird, solange Grok weiterhin diese Bilder von mir erzeugt“, fügte sie hinzu.
Gegenseitige Klage
Am Donnerstag reichten Anwälte von xAI in Texas eine Gegenseite gegen St Clair beim Bundesgericht im Northern District of Texas ein. Darin wird behauptet, sie habe gegen die Bedingungen ihrer xAI-Nutzervereinbarung verstoßen, die vorschreibt, dass Klagen gegen das Unternehmen vor einem Bundesgericht in Texas eingereicht werden müssen. Dabei wird eine ungenannte finanzielle Entschädigung gefordert.
Carrie Goldberg, eine Anwältin von St Clair, bezeichnete die Gegenseite als einen „schockierenden“ Schritt, den sie bisher noch nie von einem Beklagten gesehen habe.
„Frau St Clair wird ihre Ansprüche energisch in New York verteidigen“, sagte Goldberg in einer Stellungnahme. „Aber ganz ehrlich, jede Gerichtsbarkeit wird das Kernanliegen von Frau St Clairs Klage anerkennen – dass xAI durch die Herstellung von nicht einvernehmlichen sexuell expliziten Bildern von Mädchen und Frauen eine öffentliche Belästigung darstellt und kein angemessen sicheres Produkt ist.“
Öffentliches Interesse
In einem Interview mit US-Medien sagte St Clair kürzlich, dass ihr Kampf mit Grok „nicht nur um mich“ gehe. „Es geht darum, Systeme zu schaffen, KI-Systeme, die in großem Maßstab Frauen und Kinder missbrauchen können, ohne Konsequenzen. Und es gibt wirklich keine Folgen für das, was gerade passiert“, sagte sie zu CNN.
„Sie sagen: ‚Wir werden es illegal machen, wo es illegal ist‘. Das ist ohne jede Moral und, raten Sie mal, wenn Sie Sicherheit nach einem Schaden hinzufügen müssen, ist das kein Schutz. Das ist einfach Schadensbegrenzung“, fügte sie hinzu.
Musks Grok steht bereits unter Beobachtung und sieht sich internationaler Kritik gegenüber aufgrund der Erstellung expliziter Tiefeneffekte im Vereinigten Königreich, der Europäischen Union und anderen Gerichtsbarkeiten, darunter Indien, Indonesien, Malaysia, die Philippinen und Japan.
Japanische Behörden gaben am Freitag bekannt, dass auch sie X wegen Grok untersuchen würden und dass alle Optionen in Betracht gezogen werden, um die Erstellung unangemessener Bilder zu verhindern.
