xAI Grok, X en Franse deepfake/CSAM-zaak

SpaceX heeft in zijn IPO-aanvraag gewaarschuwd dat AI-functies zoals Groks 'Spicy'- en 'Unhinged'-modus het bedrijf kunnen blootstellen aan regelgevend toezicht en reputatieschade. Het bedrijf heeft meer dan $500 miljoen gereserveerd voor mogelijke rechtszaken, onder meer vanwege klachten dat Grok seksueel getinte beelden genereerde. De openbaarmaking toont de financiële en reputatierisico's van de overname van xAI door SpaceX in februari.

Technologieën zoals Bluetooth-trackers, slimme brillen en AI-tools zoals xAI's Grok worden misbruikt voor stalking, intimidatie en het maken van niet-consensuele deepfake-pornografie. Ondanks juridische stappen en aanpassingen door bedrijven blijft de regulering achter bij de snelle technologische ontwikkelingen. De Britse regering kondigt nieuwe wetgeving aan die platforms verplicht om intieme beelden binnen 48 uur te verwijderen, maar critici pleiten voor strengere verplichte veiligheidsmaatregelen vanaf de ontwerpfase.