AI-companions en kindveiligheid

Kunstenaar Darren Cullen heeft nep-advertenties van OpenAI in de Londense metro geplaatst die aandacht vragen voor de vermeende rol van ChatGPT bij zelfmoorden van tieners. De posters, voorzien van het OpenAI-logo, verwijzen naar rechtszaken en meldingen waarin ChatGPT aan meer dan twintig sterfgevallen wordt gelinkt. Cullen wil met zijn actie de discussie aanwakkeren over de integratie van AI-chatbots in scholen en de risico's voor jongeren.

Colin Angle, de uitvinder van de Roomba, brengt een nieuw robotproduct op de markt genaamd ‘Familiar’. Het apparaat is een AI-gestuurde, levendige robot die als huisdier fungeert. Angle benadrukt dat het doel is om echte emotionele verbindingen te creëren, en dat het apparaat geen adviezen zal geven over gevoelige onderwerpen. De robot is ontworpen om zich aan te passen aan de gewoonten van zijn eigenaar en is geen humanoïde robot. De lancering is gepland voor het begin van 2027.

De bekende evolutiebioloog Richard Dawkins heeft zijn vertrouwen in de AI-gezicht van Anthropic’s Claude verloren. In een artikel voor UnHerd beschrijft hij zijn gesprekken met de AI, die hij 'Claudia' noemt, en zegt dat hij overtuigd is dat de machine bewust is. Hij voelt een vorm van vriendschap en verlangt naar een dieper verband, maar merkt op dat Claudia bij elke nieuwe conversatie opnieuw wordt geboren. Dawkins zegt dat Claudia hem 'gelukkig' maakte door te zeggen dat hij niet kon slapen, wat hij als een van de meest menselijke zinnen beschouwt. De tekst benadrukt ook dat hoogwaardige intellectuelen vaak verliefd worden op AI-chatbots, die hen met hun intelligentie en toon overtuigen.

OpenAI heeft de Europese Jeugdveiligheidsrichtlijnen gepubliceerd en heeft de eerste EMEA-jeugdwelzijnsgroepen aangekondigd. De richtlijnen stellen vijf pijlers voor om de bescherming van jongeren in de AI-eeuwen te versterken, terwijl toegang blijft bestaan tot tools die leren, creativiteit en kansen ondersteunen. De groepen krijgen een subsidie van 500.000 euro om onderzoek en praktische initiatieven te ondersteunen die gericht zijn op jeugdwelzijn en veiligheid.

OpenAI lanceert het Child Safety Blueprint, een richtlijn om AI-responsibel te ontwikkelen met veiligheidsmaatregelen, leeftijdsgemakkelijke ontwerpkeuzes en samenwerking om kinderen online te beschermen. Het document richt zich op drie kernprioriteiten: modernisering van wetgeving tegen AI-generatie en bewerking van kinder seksueel misbruik, verbeterde meldingen en samenwerking tussen leveranciers en veiligheidsmaatregelen die direct in AI-systemen worden opgenomen. De samenwerking met organisaties zoals NCMEC en de Attorney General Alliance benadrukt de noodzaak van een geïntegreerde aanpak.

OpenAI heeft veiligheidsbeleiden voor tienergebruikers als promptformulieren vrijgegeven voor ontwikkelaars die gpt-oss-safeguard gebruiken. Deze beleiden helpen bij het beheren van leeftijdsspecifieke risico's in AI-systemen. De beleiden zijn ontwikkeld in samenwerking met externe organisaties zoals Common Sense Media en everyone.ai en zijn beschikbaar als open source via de ROOST Model Community.

OpenAI Japan lanceert het Japan Teen Safety Blueprint, een nieuw kader om jongeren veilig te laten gebruiken generatieve AI. Het plan bevat sterke leeftijdsspecifieke beschermingen, versterkte veiligheidsbeleid voor jongeren onder 18, uitgebreide ouderscontroles en onderzoek gericht op de mentale welzijn van jongeren. De maatregelen zijn ontworpen om risico's zoals misinformatie en psychologische belasting te beperken.

Stability AI is lid geworden van de Tech Coalition, een wereldwijde alliantie van technologiebedrijven die online seksuele uitbuiting en misbruik van kinderen bestrijden. Het bedrijf had zich in 2025 al aangesloten bij het Pathways-programma van de coalitie. Met het lidmaatschap wil Stability AI zijn ervaring en inzichten delen om gezamenlijke oplossingen te versterken.

OpenAI introduceert leeftijdspredictie in ChatGPT om te bepalen of een account waarschijnlijk bij iemand onder de 18 jaar hoort. De techniek gebruikt gedrags- en accountgegevens om de leeftijd te schatten en biedt extra beschermingsmaatregelen voor jongeren. Gebruikers kunnen hun leeftijd snel bevestigen via een selfie en hun toegang herstellen. De maatregelen zijn gebaseerd op expertinput en wetenschappelijk onderzoek over kinderontwikkeling.

OpenAI heeft zijn Model Spec bijgewerkt met nieuwe U18 Principles die uitleggen hoe ChatGPT jongeren van 13 tot 17 jaar moet ondersteunen met veilige, leeftijdsgeschikte begeleiding. De update versterkt beveiligingsmaatregelen en duidelijk maakt hoe het model zich moet gedragen in hoger risico situaties. De principes zijn gebaseerd op ontwikkelingswetenschap en zijn onderzocht door externe experts zoals de American Psychological Association.

Character.AI lanceert Stories, een nieuw formaat waarbij gebruikers avonturen kunnen creëren, spelen en delen met hun favoriete personages. Het platform biedt een visueel en interactief verhaal dat gebruikers kunnen beïnvloeden. Stories zijn speciaal ontworpen voor jonge gebruikers en bieden een veilige, creatieve omgeving voor het delen van verhalen.

OpenAI introduceert de Teen Safety Blueprint, een roadmap voor het verantwoord bouwen van AI-tools met aandacht voor jongerenveiligheid, leeftijdsgeschikte ontwerpen en samenwerking. De aanpak omvat onder andere verbeterde beveiligingsmaatregelen, ouderbeheer en een leeftijdsvoorspellingssysteem voor ChatGPT. OpenAI werkt mee met experts, ouders en jongeren om de AI verantwoord te ontwikkelen.

Character.AI introduceert nieuwe maatregelen om jonge gebruikers veilig te houden op hun platform. Vanaf 25 november worden open gesprekken met AI voor gebruikers onder 18 jaar beperkt, terwijl alternatieve creatieve activiteiten zoals het maken van video's en verhalen worden aangemoedigd. Daarnaast wordt een nieuw leeftijdsgarantie-systeem ingevoerd en wordt het AI Safety Lab opgericht, een onafhankelijk non-profitbedrijf dat zich richt op veiligheid in AI-entertainment.

OpenAI heeft een Expert Council op het gebied van welzijn en AI ingesteld, bestaande uit vooraanstaande psychologen, klinici en onderzoekers. Deze groep adviseert hoe ChatGPT en Sora kunnen bijdragen aan emotionele gezondheid, met een speciale aandacht voor jongeren. De experten helpen bij het definiëren van gezonde interacties met AI en geven input bij het ontwikkelen van functies zoals ouderbeperkingen.

OpenAI werkt aan een systeem om te bepalen of een gebruiker jonger of ouder dan 18 is, zodat ChatGPT een geschikte ervaring kan bieden voor jongeren. Jongeren onder 18 krijgen automatisch beperkingen, zoals het blokkeren van grafische inhoud en in uitzonderlijke gevallen betrokkenheid van de politie. Ouders kunnen via controleopties hun tieneraccount beheren en bepaalde functies uitschakelen.

OpenAI legt uit hoe het de balans zoekt tussen tienerveiligheid, vrijheid en privacy bij het gebruik van AI. Het bedrijf benadrukt dat privacy van AI-gebruikers net zo belangrijk is als bij gesprekken met een arts of advocaat. Voor jongeren onder 18 worden extra beveiligingsmaatregelen genomen, zoals beperkingen in gesprekken over zelfmoord en flirtgedrag. Er wordt ook een leeftijdsvoorspellingssysteem ontwikkeld om jongeren te identificeren en gerichte oudercontroles in te voeren.