Deepfakes, watermarking en content provenance

Epoch AI testte drie AI-tekstdetectoren (Pangram, GPTZero en Originality.ai) met stijl-geïmiteerde teksten. Gemiddeld 13 procent van de AI-gegenereerde passages bleef onopgemerkt, bij wetenschappelijk schrijven liep dat op tot 48 procent. Dit roept vragen op over de betrouwbaarheid van detectoren in de praktijk.

Het kantoor van de stadsadvocaat van San Francisco heeft Apple en Google sommaties gestuurd om 13 ‘face-swap’-apps te verwijderen die AI gebruiken om niet-consensuele naaktfoto's te genereren, voornamelijk gericht op vrouwen en meisjes. De brieven stellen dat de techbedrijven miljoenen hebben verdiend aan deze apps en hen beschuldigen van het mogelijk maken van illegale activiteiten. Apple en Google hebben toegezegd de apps te verwijderen en hun ontwikkelaarsaccounts te beëindigen.

Google heeft Google Vids bijgewerkt met gepersonaliseerde AI-avatars en de multimodale AI-model Gemini Omni. Gebruikers kunnen een digitale versie van zichzelf maken met een selfie en stemopname. Gemini Omni genereert en bewerkt video's op basis van prompts en referentieafbeeldingen. De updates maken van Vids een alles-in-één videocreatieplatform voor zakelijk gebruik.

Google heeft twee nieuwe AI-functies aangekondigd voor Google Vids. Gemini Omni maakt het mogelijk om met tekstprompts en afbeeldingen video's te genereren en te bewerken. Met persoonlijke avatars kunnen gebruikers een digitale versie van zichzelf maken door een selfie en stemopname te uploaden. Elke AI-gegenereerde clip bevat een onzichtbaar SynthID-watermerk. De functies zijn beschikbaar voor Google AI Pro- en Ultra-abonnees en Google Workspace-zakelijke klanten.

Uit een onderzoek van het Institute for Strategic Dialogue blijkt dat sociale mediaplatforms zoals YouTube en X miljoenen bezoekers doorverwijzen naar websites waarmee niet-consensuele, expliciete deepfakes kunnen worden gemaakt. Voor slechts één dollar per afbeelding kunnen gebruikers iemand digitaal uitkleden. YouTube was de grootste verwijzer met 1,82 miljoen bezoeken in vier maanden.

Google voegt AI-openbaarmakingslabels toe aan advertenties op Search, YouTube en Discover. De nauwkeurigheid van labels voor AI-inhoud van derden blijft afhankelijk van meldingen door adverteerders.

Een op de vier sociale mediaposts langer dan 250 woorden is volledig AI-gegenereerd, volgens een analyse van Pangram. LinkedIn voert de lijst aan met 41 procent van de lange berichten die als AI-geschreven zijn gemarkeerd. Het platform omvatte slechts een derde van alle gescande posts, maar was verantwoordelijk voor bijna tweederde van alle gedetecteerde AI-inhoud. Omdat het detectiemodel conservatief markeert, kan het werkelijke percentage zelfs nog hoger liggen.

Uit een analyse van Pangram, maker van AI-detectiesoftware, blijkt dat meer dan 40 procent van de lange berichten op LinkedIn volledig door generatieve AI is geschreven. Bij korte posts ligt dat percentage rond de 30 procent. LinkedIn heeft daarmee een hoger AI-aandeel dan platforms als Reddit en Substack, waar het overgrote deel van de teksten als menselijk wordt geclassificeerd.

Meta heeft een controversiële functie uit zijn nieuwe Muse Image-model verwijderd na brede kritiek. De functie stelde gebruikers in staat om AI-afbeeldingen van anderen te genereren door hun openbare Instagram-accounts te @-vermelden, zonder toestemming. Meta gaf toe dat 'deze functie de plank missloeg' en schakelde deze binnen enkele dagen na aankondiging uit.

Meta heeft de AI-beeldfunctie Muse Image teruggetrokken, slechts dagen na de lancering, vanwege wijdverbreide kritiek over privacy en toestemming. De tool maakte het mogelijk om openbare Instagram-foto's te gebruiken voor AI-bewerkingen zonder melding aan de accounteigenaar, wat leidde tot bezorgdheid over misbruik zoals identiteitsdiefstal en deepfakes. Meta gaf toe dat de functie niet aan de verwachtingen voldeed en schakelde deze uit.

Het nieuwe logo van de President Donald J. Trump International Airport in Florida vertoont verschillende fouten, zoals misvormde klauwen en een asymmetrisch ontwerp, wat wijst op AI-generatie. De luchthaven ontkent niet dat het logo met AI is gemaakt. Het artikel bespreekt ook eerdere voorbeelden van AI-gebruik door Trump voor propaganda.

Google voegt een nieuwe functie toe aan het 'My Ad Center'-paneel waarmee gebruikers kunnen zien of een advertentie met AI is gemaakt of bewerkt. Adverteerders die gebruik maken van Googles eigen AI-tools krijgen de vermelding automatisch, anderen moeten het zelf aangeven. Eerder gold deze verplichting alleen voor verkiezingsadvertenties.

De hoofdredactie van NU.nl vertelt deze week over een deepfakevideo van hun presentator die de integriteit van de nieuwsorganisatie aantast. Het artikel benadrukt dat dit soort nepvideo's het wantrouwen onder het publiek verder vergroot.

De AI-videotool Seedance van ByteDance verdeelt Hollywood. Een virale clip met AI-gegenereerde Brad Pitt en Tom Cruise leidde tot de eerste cease-and-desist van de Motion Picture Association tegen een AI-bedrijf. Maar achter de schermen gebruiken studio's de tool stilletjes op 'don't ask, don't tell' basis, zegt Simpsons-animatieproducent Joel Kuwahara.

Itai Epstein, vice president bij WSC Sports, vertelde op de Microsoft AI Tour Tel Aviv 2026 dat zijn bedrijf met AI Wereldbeker-content voor omroepen produceert. De AI genereert live en samenvattingen zonder menselijke redactie. Ook maakt WSC Studios geanimeerde kinderseries met gekloonde stemmen en minder personeel.

Techverslaggever Rutger Otto bespreekt de ethische kwestie rond deepfakes van overleden beroemdheden. Hij stelt de vraag waarom nabestaanden mogen beslissen over virtuele nabootsingen en of een acteur zelf bezwaar kan maken.

De Britse National Crime Agency (NCA) en Internet Watch Foundation (IWF) waarschuwen ouders om geen foto's van hun kinderen openbaar te delen vanwege AI-nudification-apps. Online daders gebruiken deze tools om van onschuldige selfies extreem pornografisch materiaal te maken. Het aantal AI-gegenereerd kindermisbruikmateriaal steeg met 14% in 2025.

Muziekstreamingdienst Tidal stopt per direct met het uitbetalen van royalty's voor AI-gegenereerde muziek. Vanaf half juli worden AI-nummers voorzien van een label zodat gebruikers kunnen zien of muziek volledig door kunstmatige intelligentie is gemaakt. Tidal zegt dat het geld voorlopig naar menselijke artiesten moet gaan.

Muziekstreamingdienst TIDAL voert een nieuw beleid in dat volledig AI-gegenereerde muziek van inkomsten uitsluit. Het platform gaat AI-muziek labelen met een 'AI'-badge en automatisch tracks verwijderen die artiesten imiteren. Het beleid gaat in op 15 juli 2026.

Een deepfake-video van NU.nl-redacteur Donna Gijsman werd 300.000 keer bekeken op TikTok voordat het platform ingreep. De nepvideo toonde haar die onzin vertelde en angst zaaide. Techbedrijven hebben regels tegen deepfakes, maar handhaving blijkt lastig.

De politie van Vancouver heeft een foto van een drugsvangst bewerkt met AI en op X geplaatst met het label 'made with AI'. De originele afbeelding toonde een bescheiden hoeveelheid geld en drugs, maar de AI-versie bevatte fouten zoals verkeerde biljetwaarden. De politie beweerde dat AI is gebruikt om namen van verdachten weg te halen, maar critici vrezen dat de technologie wordt ingezet om bewijs te manipuleren.

Tom Hanks maakt zich zorgen dat Disney na zijn overlijden zijn stem als Woody kan nabootsen met AI. In een interview met Entertainment Weekly bespreekt hij dat alle opnames digitaal bewaard blijven en dus gebruikt kunnen worden. Hanks vreest dat het publiek onverschillig wordt voor producties die door AI zijn gegenereerd.

Een vrouwelijke stalker heeft jarenlang AI gebruikt om foto's te manipuleren zodat het leek alsof ze een relatie en een kind had met een nietsvermoedende man. Ze plaatste de beelden online en verspreidde zelfs trouwuitnodigingen. Het slachtoffer, Luke, kwam er pas achter via zijn zus. De zaak laat zien hoe generatieve AI obsessieve fantasieën kan versterken.

ElevenLabs werkt samen met Google DeepMind om SynthID-watermerken in AI-gegenereerde audio te verwerken. De onhoorbare watermerken blijven intact na bewerkingen zoals knippen of comprimeren. Gebruikers kunnen met de nieuwe gratis ElevenLabs Audio Detector controleren of audio door ElevenLabs is gegenereerd. Dit moet de transparantie en verantwoording rond AI-audio vergroten.

Uit de Muziekmonitor van NVPI blijkt dat 78 procent van de Nederlanders muziek door echte artiesten wil, tegen 68 procent twee jaar geleden. Ruim driekwart vindt dat AI-gegenereerde muziek een duidelijk label moet krijgen op streamingdiensten.

Modulate Inc. heeft een tool gelanceerd die via audio AI-gegenereerde muziek herkent. De API, genaamd AI Music Detection, beoordeelt of een clip AI-vocalen of -instrumenten bevat. Streamingdiensten kunnen hiermee synthetische tracks opsporen. Het systeem bereikt volgens Modulate 95% precisie bij tests tegen generatoren zoals Suno's 5.5-model.

Max Spero, CEO van AI-tekstdetector Pangram, stelt dat taalmodellen veel uniformere argumenten produceren dan mensen. Hij zegt dat AI-teksten te herkennen zijn aan de structurele patronen die ze achterlaten. Pangram gebruikt een deep-learning classifier om deze patronen te detecteren.

Uit onderzoek van videoplatform Kapwing blijkt dat bijna 60 procent van de video's op een nieuw TikTok-account onder AI-slop valt. Vooral bij kindercontent is het probleem groot: onder hashtag #cartoonkids is 97 procent AI-gegenereerde rommel. Jonge kinderen kunnen het verschil tussen echte en nep-informatie vaak niet onderscheiden, wat schadelijk kan zijn.

AI-gegenereerde beelden kunnen wetenschappelijke tijdschriften misleiden en het vertrouwen in de wetenschap ondermijnen. Onderzoekers waarschuwen dat visueel bewijs aan geloofwaardigheid verliest omdat iedereen met AI overtuigende nepbeelden kan maken. Transparantie over de herkomst van beelden wordt cruciaal geacht.

Een onderzoek van The Guardian onthult dat merken steeds vaker AI-gegenereerde influencers inzetten op sociale media zonder dit te vermelden. De content lijkt op echte klantervaringen, maar bevat geen duidelijke indicatie dat de personen niet echt zijn. Consumentenorganisatie Which? roept op tot meer transparantie. De ASA heeft geen specifieke regels voor AI-labeling, maar de Europese AI-wet zal vanaf augustus verplichte labeling vereisen.

Handelsorganisatie Eurocommerce, met leden als Amazon, H&M en IKEA, wil dat AI-gegenereerde reclame wordt vrijgesteld van de transparantieregels van de EU AI Act. Zalando zegt dat 90 procent van de marketingcontent op het platform al AI-gegenereerd is. Volgens de organisatie is een AI-gegenereerde bankafbeelding geen deepfake.

Uit een rapport van videobewerkingsbedrijf Kapwing blijkt dat bijna 60 procent van de video's op de 'For You'-pagina van nieuwe TikTok-gebruikers uit AI-rommel bestaat. Vooral kindercontent wordt overspoeld: de hashtag #cartoonkids bevatte bijna alleen AI-gemaakte video's. TikTok kondigde in november aan dat gebruikers de hoeveelheid AI-content kunnen filteren, en YouTube werkt aan labeling van AI-video's.

In Derbyshire, Engeland, wordt een politieagent onderzocht die ervan wordt beschuldigd generatieve AI te hebben gebruikt om in meerdere zaken bewijsmateriaal te fabriceren. Het is het eerste geval in het Verenigd Koninkrijk, kort nadat het nieuwe nationale PoliceAI-centrum agenten had geadviseerd geen generatieve AI te gebruiken voor gerechtelijke verklaringen vanwege hallucinaties.

De rechtbank van Amsterdam heeft een man veroordeeld tot dertig maanden cel, waarvan zes voorwaardelijk, voor het openen van tientallen bankrekeningen met vervalste identiteitsbewijzen via deepfakes. De fraude vond vorig jaar plaats bij ABN AMRO.

De Europese Commissie heeft op 10 juni de definitieve gedragscode gepubliceerd voor het labelen van AI-inhoud, als onderdeel van de AI-verordening. Vanaf 2 augustus 2026 moeten deepfakes en AI-gegenereerde teksten over onderwerpen van openbaar belang worden gelabeld. Ook moeten gebruikers worden geïnformeerd wanneer ze met een AI-systeem communiceren. De gedragscode is vrijwillig, maar de verplichtingen uit artikel 50 zijn dat niet.

De PVV van Geert Wilders heeft een schadevergoeding betaald aan rechtbanktekenaar Petra Urban nadat een partijlid haar tekening zonder toestemming met AI had aangepast om de afgebeelde Syrische broers dreigender te laten lijken. Urban sprak van een 'zorgwekkende ontwikkeling' en benadrukte het belang van neutraliteit in journalistiek werk.

Apple introduceert in iOS 27 nieuwe AI-functies in de Foto's-app, zoals Extend en Spatial Reframe, die fake pixels toevoegen. Camera-chef Jon McCormack zegt dat Apple AI niet zomaar inzet, maar gericht problemen oplost. Ook komt er een onzichtbaar watermerk via Google DeepMind's SynthID.

Uit een WIRED-onderzoek blijken tientallen 'genudificeerde' deepfake-afbeeldingen en -video's op de website van Grok te staan, waaronder niet-consensuele afbeeldingen van beroemdheden en ten minste één Amerikaanse politica. xAI heeft ondanks eerdere beloften de productie van schadelijke deepfakes niet effectief kunnen voorkomen. Andere AI-systemen zoals OpenAI's ChatGPT, Meta AI en Anthropic's Claude hebben strengere veiligheidsmaatregelen.

Deezer lanceert een gratis online tool die playlists van verschillende streamingdiensten scant om AI-gegenereerde nummers te identificeren. De tool ondersteunt 27 talen en is compatibel met platforms zoals Spotify, Apple Music, SoundCloud en YouTube Music. Deezer positioneert zich zo als tegenstander van AI-muziek en verwijdert actief AI-nummers uit aanbevelingen. De aankondiging volgt op de onthulling dat 44% van alle nieuwe muziek op Deezer AI-gegenereerd is.

Deezer biedt een gratis AI-muziekdetector waarmee gebruikers op elke grote streamingdienst kunnen controleren of er AI-gegenereerde nummers in hun afspeellijsten zitten. Volgens CEO Alexis Lanternier heeft 43 procent van de gebruikers die overstappen van andere platforms naar Deezer al AI-tracks in hun afspeellijsten. De tool is beschikbaar in 27 talen en ondersteunt 20 platforms.

OpenAI ondersteunt de EU-gedragscode voor transparantie van AI-inhoud en bevordert herkomststandaarden en tools om AI-gegenereerde content herkenbaar te maken. Het bedrijf wil zo bijdragen aan een betrouwbaar AI-ecosysteem in Europa.

De regering-Trump onderhandelt met senatoren over een wetsvoorstel dat staten beperkt in AI-regulering in ruil voor federale censuurwetten. Het plan omvat de Kids Online Safety Act, de NO FAKES Act en een federale leeftijdsverificatie. Critici waarschuwen dat dit leidt tot een massaal censuurregime dat de democratie ondermijnt.

De Chinese activiste Apple Peiqing Ni kreeg van X te horen dat deepfakes die haar als promiscue drugsverslaafde afbeelden niet in strijd zijn met de regels van het platform. De deepfakes verschenen nadat Ni had gepost over een herdenking van het Tiananmenplein-masacre. Pas nadat The Guardian vragen stelde aan X, werd het account geschorst.

De Bank of England heeft gewaarschuwd voor AI-gegenereerde oplichting nadat deepfakevideo's van Nigel Farage en gouverneur Andrew Bailey online verspreid werden. De video's tonen de twee die op de set van Question Time vechten. Bailey roept op tot het melden van dergelijke video's. Ook Martin Lewis waarschuwt voor een 'wilde westen' aan AI-oplichting.

MIT Technology Review-redacteur Will Douglas Heaven deelt vijf actuele thema's in AI, gebaseerd op een talk op SXSW Londen. Hij bespreekt de impact van AI op banen, de reële gevaren zoals deepfakes en gevaarlijke chatbotrelaties, de groeiende AI-tegenstand, de belofte van AI voor wetenschap, en de alomtegenwoordigheid van AI.

Aviva heeft een recordbedrag van £230 miljoen aan verzekeringsfraude ontdekt en gebruikt AI-tools om de groeiende problemen tegen te gaan. Het bedrijf zet AI in om valse documenten en beelden te herkennen die door fraudeurs met AI worden gegenereerd. De AI functioneert als filter voor menselijke onderzoekers.

Alan Finkel betoogt in een opiniestuk dat het gebruik van AI bij het schrijven van opinieartikelen de kunst van het overtuigen ondermijnt. Hij verwijst naar een incident waarbij hoogleraar Cath Ellis een door AI geschreven stuk indiende bij de Sydney Morning Herald zonder dit te melden. Finkel pleit voor duidelijke normen (de minimis standards) en transparantie over AI-gebruik in publicaties.

Meta heeft een experimentele AI-nieuwsfeed in zijn app stopgezet nadat deze nepnieuws en onjuiste AI-gegenereerde beelden verspreidde. De feed produceerde artikelen zonder bronvermelding of journalistieke controle. Meta noemt het een test die is stopgezet.

Een AI-gegenereerde toespraak toegeschreven aan de Namibische president Netumbo Nandi-Ndaitwah werd massaal gedeeld op sociale media. De toespraak veroordeelde corruptie en buitenlandse uitbuiting, maar werd door de president zelf afgewezen als een vervalsing. Het artikel analyseert waarom de nep-toespraak zoveel weerklank vond in Afrika en het Caribisch gebied, wijzend op een leiderschapscrisis en het verlangen naar moreel leiderschap.

Tijdens de NBA Finals 2026 gebruikte ESPN een AI-gegenereerde gelijkenis van Spurs-legende Tony Parker in een commercieel filmpje. Fans en journalisten reageerden verontwaardigd op sociale media, wijzend op het onnodige gebruik van generatieve AI terwijl ESPN over voldoende echt beeldmateriaal beschikt.