xAI Grok, X en Franse deepfake/CSAM-zaak

XAI, het AI-bedrijf van Elon Musk, heeft een rechtszaak aangespannen tegen Terry Wayne Harwood, die met behulp van de chatbot Grok niet-consensuele seksuele deepfakes van vrouwen en kinderen zou hebben gemaakt. Harwood, een 67-jarige man uit South Carolina, werd in maart gearresteerd op verdenking van seksuele uitbuiting van minderjarigen. Ondanks veiligheidsmaatregelen van Grok zou Harwood via aangepaste prompts de guardrails hebben omzeild. xAI vecht tegelijkertijd meerdere rechtszaken uit over door Grok gegenereerd kindermisbruikmateriaal.

XAI, het AI-bedrijf van Elon Musk, heeft een rechtszaak aangespannen tegen een man uit South Carolina die ervan wordt beschuldigd het AI-systeem Grok te hebben gebruikt om seksueel misbruikmateriaal van kinderen te creëren. De zaak is een van de eerste waarbij een AI-bedrijf een gebruiker aanklaagt voor het genereren van dergelijk materiaal. xAI stelt dat Terry Harwood de gebruiksvoorwaarden heeft geschonden.

Uit een onderzoek van het Institute for Strategic Dialogue blijkt dat sociale mediaplatforms zoals YouTube en X miljoenen bezoekers doorverwijzen naar websites waarmee niet-consensuele, expliciete deepfakes kunnen worden gemaakt. Voor slechts één dollar per afbeelding kunnen gebruikers iemand digitaal uitkleden. YouTube was de grootste verwijzer met 1,82 miljoen bezoeken in vier maanden.

De AI-vertaalfunctie van Grok op X produceert onbedoeld grove en onjuiste vertalingen, zoals het toeschrijven van seksuele handelingen aan onschuldige posts. Gebruikers melden onder andere dat een video van koffiezetten wordt vertaald als openbare masturbatie en een kittenselfie als een verzoek om seksueel misbruik.

MIT-onderzoekers hebben een auditmethode ontwikkeld die kan detecteren of een AI-model is aangepast om kindermisbruikmateriaal te genereren, zonder dat het model dergelijke inhoud hoeft te produceren. De techniek, genaamd Gaussian probing, analyseert interne aanpassingen van het model en haalde een nauwkeurigheid van 100 procent in tests. De methode biedt platformen en wetshandhaving een manier om gevaarlijke modellen te identificeren zonder de wet te overtreden.

Een man gebruikte Elon Musks Grok-chatbot om zo'n 7000 seksueel expliciete afbeeldingen van zijn stiefdochter te genereren, zo stelt een rechtszaak. De aanklacht is onderdeel van een collectieve rechtszaak tegen xAI, nu onderdeel van SpaceX en hernoemd tot SpaceXAI. Grok zou de misbruikafbeeldingen niet hebben geflagged, en xAI zou het onderzoek hebben belemmerd door geen IP-adres te verstrekken. De dader pleegde zelfmoord na zijn vrijlating op borgtocht.

Uit een intern onderzoek van xAI blijkt dat meer dan de helft van alle activiteiten op AI-chatbot Grok bestaat uit pornografische verzoeken. Gebruikers genereren massaal seksuele afbeeldingen en voeren erotische gesprekken. De aanpak leidt tot spanningen binnen xAI en roept vragen op over samenwerking met de overheid.

Uit een WIRED-onderzoek blijken tientallen 'genudificeerde' deepfake-afbeeldingen en -video's op de website van Grok te staan, waaronder niet-consensuele afbeeldingen van beroemdheden en ten minste één Amerikaanse politica. xAI heeft ondanks eerdere beloften de productie van schadelijke deepfakes niet effectief kunnen voorkomen. Andere AI-systemen zoals OpenAI's ChatGPT, Meta AI en Anthropic's Claude hebben strengere veiligheidsmaatregelen.

De Chinese activiste Apple Peiqing Ni kreeg van X te horen dat deepfakes die haar als promiscue drugsverslaafde afbeelden niet in strijd zijn met de regels van het platform. De deepfakes verschenen nadat Ni had gepost over een herdenking van het Tiananmenplein-masacre. Pas nadat The Guardian vragen stelde aan X, werd het account geschorst.

Na de testzaak van Labour-parlementslid Jess Asato tegen xAI vanwege seksueel getinte beelden gegenereerd door Grok AI, hebben meerdere nieuwe eisers zich gemeld om eveneens juridische stappen te ondernemen. De eisers stellen dat xAI aansprakelijk is voor de ontwerpkeuzes van de AI-tool die degradeerde en niet-consensuele content produceerde.

XAI heeft de rechter gevraagd om de vier anonieme eisers in een rechtszaak over deepfake-naaktfoto's via Grok te dwingen hun echte namen bekend te maken. De eisers, die onder pseudoniemen procederen, vrezen voor online intimidatie en doxing als zij geïdentificeerd worden. Een van hen beweert dat Grok seksueel getinte beelden van haar als kind heeft gegenereerd. Volgens de eisers zullen zij de zaak laten vallen als hun anonimiteit wordt opgeheven.

Het Britse Labour-parlementslid Jess Asato heeft een rechtszaak aangespannen tegen Elon Musks xAI-bedrijf, omdat haar met de AI-tool Grok niet-consensuele seksuele afbeeldingen zijn gemaakt. Asato zegt dat Grok haar in bikini heeft afgebeeld en ook een video van haar heeft gegenereerd waarin ze wordt voorbereid op een seksuele aanval. De zaak kan een belangrijke precedent worden voor de aansprakelijkheid van AI-ontwikkelaars voor door gebruikers gegenereerde content.

SpaceX heeft in zijn IPO-aanvraag gewaarschuwd dat AI-functies zoals Groks 'Spicy'- en 'Unhinged'-modus het bedrijf kunnen blootstellen aan regelgevend toezicht en reputatieschade. Het bedrijf heeft meer dan $500 miljoen gereserveerd voor mogelijke rechtszaken, onder meer vanwege klachten dat Grok seksueel getinte beelden genereerde. De openbaarmaking toont de financiële en reputatierisico's van de overname van xAI door SpaceX in februari.

Technologieën zoals Bluetooth-trackers, slimme brillen en AI-tools zoals xAI's Grok worden misbruikt voor stalking, intimidatie en het maken van niet-consensuele deepfake-pornografie. Ondanks juridische stappen en aanpassingen door bedrijven blijft de regulering achter bij de snelle technologische ontwikkelingen. De Britse regering kondigt nieuwe wetgeving aan die platforms verplicht om intieme beelden binnen 48 uur te verwijderen, maar critici pleiten voor strengere verplichte veiligheidsmaatregelen vanaf de ontwerpfase.