Deepfakes, watermarking en content provenance

Een boek over hoe AI de perceptie van de werkelijkheid beïnvloedt, bleek verzonnen citaten te bevatten die door AI waren gegenereerd. De auteur Steve Rosenbaum gaf toe AI-tools zoals ChatGPT en Claude te hebben gebruikt bij het schrijven. Een AI-detectietool gaf aan dat 53% van het boek AI-gegenereerd was. WIRED trok de publicatie van een excerpt terug na vragen over het gebruik van AI.

Een door de Thaise politie verspreide foto van agenten in feestelijke jurken bij een arrestatie blijkt door AI gegenereerd. De beheerder van het Facebookaccount van het politiebureau wilde een vriendelijker imago creëren. Nieuwsmedia zoals de Daily Star en The Sun publiceerden de foto, maar moesten later corrigeren.

Google heeft een overzicht gegeven van de 12 belangrijkste aankondigingen tijdens Google I/O 2026. Daaronder vallen de nieuwe modellen Gemini Omni en Gemini 3.5 Flash, evenals updates aan Zoeken met AI-aangedreven informatieagenten en de introductie van Gemini Spark als persoonlijke AI-assistent. Ook werd de uitbreiding van SynthID-watermerking naar meer producten en de komst van AI-ondersteunde brillen voor Android XR aangekondigd.

Taylor Swift's management heeft handelsmerkaanvragen ingediend voor audiofragmenten van haar stem en haar visuele gelijkenis. Dit wijst op een verschuiving van auteursrecht naar handelsmerkrecht in de strijd tegen AI-namaak. Hoewel auteursrecht creatieve werken beschermt, beschermt het niet tegen AI-gegenereerde imitaties die consumenten misleiden over goedkeuringen. Handelsmerkrecht en publiciteitsrechten bieden mogelijk betere bescherming tegen dergelijke misleiding.

YouTube gaat AI-gegenereerde content prominenter labelen en vanaf deze maand automatisch scannen op 'fotorealistisch' AI-gebruik. De labels verschijnen bij normale video's direct onder de videospeler en bij Shorts als overlay onderaan. Voorheen gebeurde labeling alleen op eigen aangifte van de uploader. YouTube gebruikt C2PA en SynthID voor detectie, maar niet alle AI-content krijgt een prominent label.

ElevenLabs heeft een deal gesloten met Stan Lee Universe om het uiterlijk en de stem van de overleden Marvel-schrijver met AI na te bootsen. Gebruikers kunnen via de Iconic Marketplace van ElevenLabs de AI-kloon van Stan Lee gebruiken voor audioboeken en AI-gegenereerde stripverhalen. De aankondiging leidt tot ethische discussies over het gebruik van AI om overleden publieke figuren te doen herleven.

YouTube verscherpt de regels voor AI-labels. Vanaf mei 2026 detecteert een automatisch systeem AI-gegenereerde content, zelfs als makers het niet vermelden. Labels komen op zichtbaardere plekken, zoals onder de videospeler en als overlay bij Shorts. Aanbevelingen en inkomsten worden niet beïnvloed.

YouTube plaatst vanaf nu automatisch een label bij video's die realistisch ogen en met AI zijn gemaakt. Het label komt op een prominentere plek te staan, bijvoorbeeld tussen de video en de beschrijving bij lange video's. Makers moeten nog steeds zelf aangeven of hun video met AI is gemaakt, maar YouTube doet een extra check.

YouTube gaat video's die gebruikmaken van aanzienlijke fotorealistische AI automatisch labelen, in plaats van alleen te vertrouwen op makers om AI-inhoud zelf te melden. De labels worden ook prominenter weergegeven, direct onder de videospeler. Dit volgt op de uitbreiding van AI-detectie en de lancering van Gemini Omni van Google.

Generatieve AI vormt ernstige risico's voor de herinnering aan de Holocaust door ontkenning, vervalsing en clickbait. Deskundigen waarschuwen dat AI-gefabriceerde beelden en video's twijfel kunnen zaaien over de Holocaust. AI-geletterde jongere generaties worden gezien als de beste tool om deze desinformatie te bestrijden.

OmniPulse is een systeem dat met wavelet-scattering fingerprints synthetische en menselijke audio identificeert en toewijst. De kern is geschreven in Rust en maakt gebruik van FFI-bruggen, SlicedWasserstein-afstandsberekeningen en een MCP-server om efficiënt om te gaan met grote audiobestanden. Het systeem leest audio via gedeeld geheugen en voert de verwerking uit zonder de grote datasets te serialiseren.

Taylor Swift heeft een handelsmerk aangevraagd voor haar stem en podiumimago, als eerste muziekartiest die deze stap zet. De zet roept vragen op over auteursrecht en de rechten van artiesten in het tijdperk van AI. Het artikel bespreekt hoe AI gegenereerde imitaties en deepfakes juridische uitdagingen vormen, en hoe Swifts handelsmerk mogelijk een krachtig afschrikmiddel kan zijn tegen toekomstige vervalsingen.

AI-gegenereerde content wordt steeds overtuigender. Factcheckers adviseren om niet alleen diep in de beelden te kijken, maar ook breed naar de context. Door verdachte details en bronnen te controleren blijf je online veiliger.

Twee mannen uit New Jersey en Texas zijn aangeklaagd voor het creëren en verspreiden van duizenden deepfake-afbeeldingen en -video's van seksuele aard, waaronder van bekende actrices, zangeressen en politieke figuren. De aanklacht valt onder de nieuwe 'Take It Down'-wet, die in april 2025 door president Trump werd ondertekend. De maximale straf voor de twee is twee jaar gevangenisstraf. Dit zijn de tweede en derde vervolgde daders onder deze wet.

Een Noors bedrijf gebruikte generatieve AI om foto's uit een erotisch tijdschrift uit 1976 te animeren. De films, getiteld 'Sh(AI)ved', leidden tot felle kritiek vanwege het ontbreken van toestemming van de geportretteerde modellen. Critici beschuldigen de makers van het creëren van niet-consensuele pornografie met AI.

De NTSB heeft dossiers gesloten nadat buitenstaanders met AI de stemmen van omgekomen piloten nabootsten uit een spectrogram. Een YouTuber gebruikte Codex om audio te reconstrueren uit de data van de zwarte doos. De overheidsinstantie sluit nu de openbare toegang om misbruik te voorkomen.

James Daunt, CEO van Barnes & Noble, zei in een interview dat de boekhandelketen openstaat voor de verkoop van AI-gegenereerde boeken, op voorwaarde dat ze duidelijk als zodanig worden gelabeld en geen plagiaat plegen. Zijn uitspraak heeft tot kritiek geleid van auteurs, die AI zien als een bedreiging voor hun beroep.

Mensen gebruikten AI op een spectrogramafbeelding van cockpitopnames om de stemmen van overleden piloten te reconstrueren. De NTSB moest tijdelijk de toegang tot haar docketsysteem blokkeren nadat de gereconstrueerde audio online verscheen. Het agentschap heeft de openbare toegang hersteld maar houdt 42 onderzoeken gesloten in afwachting van herziening.

De Commonwealth Short Story Prize is in opspraak geraakt nadat het winnende verhaal 'The Serpent in the Grove' beschuldigd werd van AI-generatie. Critici wijzen op AI-achtig taalgebruik, maar detectietools zijn onbetrouwbaar. Uitgever Sigrid Rausing raadpleegde Claude.ai, dat concludeerde dat het verhaal 'vrijwel zeker niet zonder menselijke hulp is geschreven'. De auteur heeft niet gereageerd op de beschuldigingen. De zaak roept vragen op over vertrouwen in literaire prijzen.

Een journalist gebruikte de Gemini-app van Google om een digitale kloon van zichzelf te maken. De tool, aangedreven door het Omni videomodel, genereert levensechte videoclips waarin de avatar in herkenbare omgevingen optreedt. Hoewel de resultaten indrukwekkend zijn, roept het ook vragen op over privacy en het gebruik van deepfakes.

LinkedIn pakt AI-gegenereerde inhoud aan die het 'AI slop' noemt. In vroege tests markeerde het platform generieke posts in 94% van de gevallen correct. Ironisch genoeg promoot moederbedrijf Microsoft zelf het gebruik van AI op LinkedIn.

Het gerenommeerde literaire tijdschrift Granta wordt ervan beschuldigd een AI-gegenereerd kort verhaal te hebben gepubliceerd. Het verhaal 'The Serpent in the Grove' won de Commonwealth Foundation Short Story Prize, maar lezers en AI-expert Ethan Mollick merkten verdachte kenmerken op. Granta's uitgever raadpleegde vervolgens Anthropic's chatbot Claude om te checken of het door AI was geschreven, wat tot verdere verwarring leidde.

Spotify introduceert verificatiebadges voor podcasts om luisteraars te beschermen tegen AI-slop. De groene vinkjes tonen aan dat makers echt zijn en neppe podcasts worden verwijderd. Spotify controleert het luistergedrag om bot-gedreven programma's te herkennen. Het kan maanden duren voordat alle zeven miljoen podcasts zijn gecontroleerd.

De Universiteit van New South Wales lanceerde een test om AI-gezichten van echte gezichten te onderscheiden. Guardian Australia's Carly Earl en Matilda Boseley nemen de test om te zien of het wetenschap of onderbuikgevoel is.

De winnaar van de Commonwealth short story prijs voor het Caribisch gebied wordt ervan beschuldigd het verhaal met AI te hebben geschreven. Een AI-detector gaf aan dat het werk AI-gegenereerd was, en critici wezen op taalkundige patronen die typisch zijn voor AI. De uitgever van Granta zegt dat de ware auteur wellicht nooit bekend zal worden.

OpenAI kondigt twee nieuwe maatregelen aan om AI-gegenereerde afbeeldingen te detecteren: het toepassen van de open C2PA-standaard en het integreren van Google's SynthID-watermerk. Deze maatregelen moeten de authenticiteit van beelden verifiëren en zijn van toepassing op OpenAI-producten. Daarnaast komt er een openbaar verificatiehulpmiddel waarmee gebruikers kunnen controleren of een afbeelding met AI is gemaakt.

Google heeft Gemini Omni aangekondigd, een nieuwe familie multimodale AI-modellen die tekst, afbeeldingen, audio en video combineert om video's te genereren en bewerken via eenvoudige conversatie. Het eerste model, Gemini Omni Flash, wordt vandaag uitgerold naar de Gemini-app, YouTube Shorts en de AI-creatieve studio Flow. De technologie maakt gebruik van SynthID-watermerken om deepfakes te voorkomen en biedt de mogelijkheid om digitale avatars te creëren.

Google heeft een nieuwe 'avatar'-functie voor Flow aangekondigd, waarmee gebruikers een digitale kloon van zichzelf kunnen maken en in AI-video's kunnen plaatsen. De functie maakt gebruik van het nieuwe Omni Flash-model, dat videogeneratie met meer detail en consistentie mogelijk maakt. Gebruikers moeten een QR-code scannen en een korte video van zichzelf opnemen om de avatar in te stellen. Google benadrukt dat de avatars alleen voor eigen gebruik zijn en voorzien zijn van een SynthID-watermerk.

OpenAI introduceert nieuwe maatregelen voor content provenance, waaronder Content Credentials en SynthID. Het bedrijf lanceert ook een verificatietool om AI-gegenereerde media herkenbaar en betrouwbaar te maken.

Beroemdheden zoals Taylor Swift, Matthew McConaughey en Jeremy Clarkson gebruiken merkenrecht om delen van hun identiteit te beschermen tegen AI-namaak. Het is een nieuwe tactiek die nog niet in de rechtszaal is getest. Zij registreren stemmen, gezichten en catchphrases als handelsmerk om deepfakes aan te pakken.

Ofcom gaat zijn gedragscodes aanpassen om techbedrijven te dwingen intiem beeldmisbruik, waaronder AI-gegenereerde deepfakes, op te sporen en te verwijderen. Aanleiding is een toename van 'wraakporno' en deepfakes, zoals bij het gebruik van Elon Musk's Grok AI in januari. De nieuwe regels moeten voorkomen dat zonder toestemming gedeelde intieme beelden zich verder verspreiden.

YouTube breidt de toegang tot zijn AI deepfake-detectietool uit naar alle gebruikers van 18 jaar en ouder. De tool scant nieuwe uploads op ongeautoriseerd gebruik van gezichten en stelt gebruikers in staat verwijderverzoeken in te dienen. De uitrol volgt op een eerdere beperkte beschikbaarheid voor partners en publieke figuren.

YouTube breidt zijn Likeness Detection-tool uit naar alle makers van 18 jaar en ouder. Het systeem detecteert AI-gegenereerde gezichtsvervalsingen in video's van anderen en stelt makers in staat verwijderingsverzoeken in te dienen via YouTube Studio. De functie was eerder beperkt tot partnerprogrammaleden, maar is nu bedoeld om ook kleinere kanalen te beschermen.

Een boekfragment onderzoekt hoe Generatie Z, opgegroeid met sociale media en AI, een nieuwe manier van waarheidsvinding ontwikkelt. De emotionele en sociale beleving van informatie vervangt traditionele instituties. AI-gegenereerde deepfakes en algoritmische feeds vervagen de grens tussen echt en onecht.

Een artikel van MIT Technology Review belicht dat niet alleen gezichten, maar ook de lichamen van pornosterren zonder toestemming worden gebruikt in deepfakes. Naarmate AI verbetert, worden deze lichamen gebruikt als trainingsdata voor nieuwe AI-modellen, wat de rechten en inkomsten van makers bedreigt. De focus op slachtoffers met vervangen gezichten verwaarloost de impact op de personen wier lichamen worden misbruikt.

Een onderzoek van The Press Gazette wijst erop dat vier financiële journalisten die artikelen schreven voor grote media zoals Forbes en HuffPost, mogelijk valse personages zijn die door een PR-firma genaamd MarketAcross worden gebruikt om crypto te promoten. De journalisten, onder wie Nikolai Kuznetsov en Reuben Jackson, hebben geen duidelijke online aanwezigheid en gebruiken mogelijk AI-generatie-afbeeldingen. Ze hebben vaak geleid tot investeringen in crypto’s van MarketAcross-clients, waaronder het mislukte project Gladius. De betrokken PR-firma ontkent echter dat ze deze journalisten in dienst hebben.

Technologieën zoals Bluetooth-trackers, slimme brillen en AI-tools zoals xAI's Grok worden misbruikt voor stalking, intimidatie en het maken van niet-consensuele deepfake-pornografie. Ondanks juridische stappen en aanpassingen door bedrijven blijft de regulering achter bij de snelle technologische ontwikkelingen. De Britse regering kondigt nieuwe wetgeving aan die platforms verplicht om intieme beelden binnen 48 uur te verwijderen, maar critici pleiten voor strengere verplichte veiligheidsmaatregelen vanaf de ontwerpfase.

De New York Times heeft een artikel aangepast na het ontdekken dat een citaat dat werd toegeschreven aan Pierre Poilievre, leider van de Conservatieven, in werkelijkheid een AI-gegenereerde samenvatting van zijn meningen over Canadese politiek was. Het citaat was niet correct en moest worden vervangen door een betrouwbaar gedeelte uit een spraak van Poilievre in april. De redactie erkent dat de journalist niet voldoende controle heeft uitgeoefend op de output van de AI-tool.

Italiaanse premier Giorgia Meloni waarschuwt voor het gevaar van AI-geneerde diepefake-afbeeldingen, na een viral liggend lingerie-beeld van haar te zijn gedeeld. Ze kritiseert de verspreiding van zoogenaamde 'echte' afbeeldingen die via kunstmatige intelligentie zijn gemaakt. Meloni benadrukt dat AI een gevaarlijke tool is voor misleiding en manipulatie, en roept op tot verificatie voorafgaand aan delen. Ze benadrukt dat het risico niet alleen voor haar is, maar voor iedereen. De zaak is onderdeel van een bredere discussie over regelgeving rond AI in Italië, waar het land in september 2025 de eerste EU-land was dat een comprehensief AI-wet goedkeurde.

ElevenLabs, een bedrijf dat zich richt op stem- en taaltechnologie, heeft 180 miljoen dollar opgehaald in een Series C-fundingronde. Het bedrijf wil met deze investering de technologie verder ontwikkelen om content wereldwijd toegankelijk te maken in elke taal en stem. De financiële steun komt uit nieuwe investeerders, waardoor ElevenLabs zijn positie op de markt versterkt. Het bedrijf is al bekend vanwege zijn geavanceerde stemtechnologie en het doel om spraak en taal technisch beschikbaar te maken voor iedereen.

Artikel bespreekt hoe sterren zoals Taylor Swift en Bollywood-acteurs gebruik maken van civiele rechtszaken om deepfakes te bestrijden. De artikelen benadrukken de toegenomen juridische maatregelen in landen als India, Canada en Australië, en de rol van menselijke waardigheid in de rechtspraak. Ook wordt de noodzaak van bredere bescherming voor niet-beroemde personen benadrukt.

Het prestigieuze New England Journal of Medicine (NEJM) heeft een artikel getrokken dat een foto bevat die verstoord is door het gebruik van kunstmatige intelligentie (AI). De foto toont bronchiële weefsels van een patiënt die zwaar is belast door rookinhalatie, maar de meetlat in de foto toont onlogische getallen, wat op AI-gebruik wijst. De auteurs verklaren dat ze onbewust de regels van het tijdschrift over afbeeldingsmanipulatie niet kenden en de meetlat met AI verplaatst hadden. Het NEJM waarschuwt nu voor het openbaar maken van AI-genegeerde afbeeldingen en benadrukt dat auteurs moeten aangeven wanneer AI wordt gebruikt. De incidenten benadrukken de groeiende problemen met AI-generatie in wetenschappelijke publicaties.

Gemini Omni combineert redeneervermogen met creatie. Het model kan video's genereren en bewerken via natuurlijke gesprekken, met begrip van fysica, geschiedenis en culturele context. Het ondersteunt invoer van beeld, tekst, video en audio en exporteert coherente video's. De tool bevat veiligheidsmaatregelen zoals SynthID-watermerken en C2PA Content Credentials.

Google DeepMind heeft het meest geavanceerde text-to-image-model Imagen 4 gelanceerd. Het model produceert foto-realiste beelden met scherpere kwaliteit en een snelheid die tot 10 keer sneller is dan de vorige versie. De nieuwe versie is ontworpen om creatieve ideeën snel en efficiënt te realiseren.

Een artikel onderzoekt hoe het zinpatroon 'het is niet alleen X, maar ook Y' steeds vaker in AI-geneerde tekst voorkomt. Volgens Barron’s is dit patroon zo gebruikelijk geworden dat het bijna zeker is dat tekst synthetisch is. De analyse toont een stijging van 400% in de frequentie van dit formulier tussen 2023 en 2025. Experts merken op dat dit een teken is van de afhankelijkheid van bedrijven van AI, hoewel het niet zeker is of de tekst AI-geassisteerd is.

Google heeft het nieuwe Gemini 3.1 Flash TTS-model gelanceerd, een verbeterde AI-tekst-naar-klankoplossing met hogere kwaliteit en meer controle. Het model ondersteunt 70+ talen en maakt gebruik van SynthID-watermerken om AI-geneerde audio te identificeren. Ontwikkelaars kunnen via Google AI Studio de stemmen aanpassen en exporteren voor consistent gebruik.

OpenAI lanceert Sora 2 en de bijbehorende app met een sterke nadruk op veiligheid. De updates bevatten zichtbare en onzichtbare herkomstsignalen, C2PA-metadata, watermerken en strenge regels voor het gebruik van beelden van personen. Ook worden extra beveiligingen toegevoegd voor jongeren en gebruikerscontrole over eigen beeld en geluid.

OpenAI lanceert Sora 2 en de Sora-app met aandacht voor veiligheid en verantwoord gebruik. De video-generator bevat zichtbare watermerken en C2PA-metadata om AI-gegenereerde inhoud te herkennen. Er zijn beveiligingen voor minderjarigen, beperkingen op schadelijke inhoud en opties voor gebruikers om hun inhoud te beheren en te rapporteren.

OpenAI geeft meer inzicht in hoe Voice Engine, hun tekst-naar-spraakmodel, werkt en hoe ze veiligheidsonderzoek uitvoeren. Het model kan aangepaste stemmen genereren op basis van 15 seconden spraakvoorbeeld en tekst. Voice Engine is nog niet algemeen beschikbaar en wordt beperkt getest met betrokken partners. De technologie wordt gebruikt voor onderzoek, educatie en veiligheidsontwikkeling, met nadruk op het voorkomen van misbruik en het beschermen van persoonlijke stemmen.

OpenAI introduceert nieuwe tools om onderzoekers te helpen bij het identificeren van inhoud gemaakt met hun tools en maakt deel uit van de Coalition for Content Provenance and Authenticity Steering Committee. De organisatie werkt aan oplossingen zoals tekstwatermerken en metadata om de herkomst van inhoud te traceren en transparantie te bevorderen. Daarnaast worden C2PA-metadata toegevoegd aan beelden en video's gemaakt met DALL-E 3 en Sora.