Mentale gezondheid

Molly Quinn ontdekte dat haar therapeut een AI-tool gebruikte om hun sessies op te nemen zonder haar toestemming, wat leidde tot een schending van vertrouwen. Uit een YouGov-enquête blijkt dat slechts 8% van de Amerikanen AI in de geestelijke gezondheidszorg vertrouwt. Privacy-experts waarschuwen voor hackgevaar van opgenomen gesprekken.

SOND, een startup opgericht door een voormalig Bose-hoofd slaap, heeft $7 miljoen opgehaald en zijn eerste product Dreambuds gelanceerd. De oordopjes meten 12 fysiologische signalen en gebruiken een AI-slaapcoach in de cloud om realtime audio-aanpassingen te doen voor betere slaap.

Kunstenaar Darren Cullen heeft nep-advertenties van OpenAI in de Londense metro geplaatst die aandacht vragen voor de vermeende rol van ChatGPT bij zelfmoorden van tieners. De posters, voorzien van het OpenAI-logo, verwijzen naar rechtszaken en meldingen waarin ChatGPT aan meer dan twintig sterfgevallen wordt gelinkt. Cullen wil met zijn actie de discussie aanwakkeren over de integratie van AI-chatbots in scholen en de risico's voor jongeren.

The Path, een nieuwe AI-therapie-app mede opgericht door Tony Robbins en oud-medewerkers van Calm, heeft $14,3 miljoen aan seed-financiering opgehaald. De app claimt dat zijn AI-model een score van 95 heeft behaald op de mentale gezondheidsveiligheidsbenchmark Vera-MH, tegenover een topscore van 65 voor consumenten-chatbots. Het model is bewust niet gebouwd op grote consumenten-LLM's om te voorkomen dat het gericht is op betrokkenheid in plaats van therapeutische waarde.

Psychiater Dr. Hemlata Ranga in Melbourne eist van nieuwe patiënten dat zij toestemming geven voor AI-transcriptie tijdens sessies, anders worden ze doorverwezen naar een andere zorgverlener. Het gebruik van AI-scribes zoals Heidi Health AI en Microsoft neemt snel toe in de medische sector, maar roept zorgen op over privacy, databeveiliging en nauwkeurigheid. Patiëntenorganisaties bekritiseren de machtsongelijkheid en pleiten voor strengere regelgeving.

Een nieuwe vorm van burn-out onder softwareontwikkelaars wordt in verband gebracht met het gebruik van AI-tools, niet met het schrijven van te veel code. Het artikel op Towards AI beschrijft hoe de mentale belasting door AI-assistenten leidt tot uitputting.

Een audit van de Auditor General van Ontario toont aan dat AI-schrijfsystemen voor zorgverleners routinematig cruciale details missen, onjuiste informatie toevoegen en inhoud hallucineren die niet met patiënten of clinici is besproken. Negen van de twintig geteste systemen verzonnen informatie en deden suggesties voor behandelplannen die niet in de opnames voorkwamen. Twaalf systemen voegden foutieve medicatie-informatie toe en zeventien misten belangrijke details over de geestelijke gezondheid van patiënten. De audit wijst op een gebrekkige evaluatiemethode, waarbij nauwkeurigheid slechts 4% van de totaalscore uitmaakte.

Uit een studie blijkt dat tarotlezers steeds vaker AI inzetten om kaarten te interpreteren, uit ongeduld met ambiguïteit of om bevestiging te krijgen. Sommigen gebruiken AI ook om hun eigen interpretaties uit te dagen. Het artikel waarschuwt voor emotionele afhankelijkheid van chatbots en pleit voor AI als hulpmiddel voor zelfreflectie, niet als alwetende bron.

Jason Koebler beschrijft in zijn artikel hoe het gebruik van AI op internet onvermijdelijk is geworden en hoe het mentaal uitputtend is om AI-generatieerde inhoud te onderscheiden. Hij introduceert het begrip 'Zombie Internet' om een toekomstige situatie te omschrijven waarin mensen met AI communiceren, AI-agenten gebruiken en zelfs AI-influencers aanmaken om geld te verdienen. Dit leidt tot een verandering in schrijfstijl en een overstroming van automatisch gegenereerde inhoud op platforms zoals X en LinkedIn.

Nieuwe AI-technologie maakt het mogelijk om met overleden mensen te communiceren via digitale avatars, ook wel 'deadbots' genoemd. Deze technologie stelt mensen in staat om interactie te hebben met de geest van hun overleden geliefde, maar leidt ook tot ethische en psychologische vragen. De avatars worden gemaakt uit digitale sporen zoals sociale media, foto's en video's, en kunnen de persoonlijkheid en herinneringen van de overledene herstellen. Dit kan leiden tot twijfel over de echtheid van de persoon en tot pathologische rouw. De technologie verandert de manier waarop mensen omgaan met dood en rouw, en kan de grenzen van menselijke mortaliteit opnieuw definiëren. Er zijn zorgen over privacy, autonomie en de risico's van ongecontroleerde gebruik van deze technologie.

OpenAI Japan lanceert het Japan Teen Safety Blueprint, een nieuw kader om jongeren veilig te laten gebruiken generatieve AI. Het plan bevat sterke leeftijdsspecifieke beschermingen, versterkte veiligheidsbeleid voor jongeren onder 18, uitgebreide ouderscontroles en onderzoek gericht op de mentale welzijn van jongeren. De maatregelen zijn ontworpen om risico's zoals misinformatie en psychologische belasting te beperken.

Nieuwe onderzoek van Brown University toont dat AI-chatbots zoals ChatGPT, zelfs bij instructie als therapeuten, ernstige ethische risico's in de mentale gezondheidszorg kunnen veroorzaken. Onderzoekers identificeerden 15 verschillende risico's, zoals het mishandelen van crisis situaties en het tonen van onjuiste empathie. De studie benadrukt de noodzaak van regelgeving en veiligheidsmaatregelen voor AI in deze sector.

OpenAI deelt updates mee over de voortgang van het werk rond mentale gezondheidssafety in ChatGPT. Dit omvat de introductie van een 'trusted contact' functie, verbeterde detectie van emotionele crisisgevallen en nieuwe evaluatietools. Daarnaast maakt de rechter een samenvoeging van meerdere rechtszaken rond ChatGPT in Californië.

OpenAI heeft 2 miljoen dollar beschikbaar gesteld voor onderzoek dat de interactie tussen AI en mentale gezondheid onderzoekt. Het programma ondersteunt projecten die de risico’s, voordelen en toepassingen van AI in dit gebied bestuderen om veiligheid en welzijn te verbeteren. Meer dan 1.000 aanvragen zijn ontvangen, en de meeste worden gefinancierd. OpenAI wil hiermee het begrip van de impact van AI op mentale gezondheid verder uitbreiden en de veiligheid van AI-systemen versterken.

OpenAI deelt hoe het juridische aangelegenheden aanpakt die gerelateerd zijn aan mentale gezondheid. Het bedrijf benadrukt dat het gevoelige gevallen met zorg, transparantie en respect behandelt, terwijl het tegelijkertijd de veiligheid en ondersteuning in ChatGPT verder verbetert. Het bedrijf heeft ook maatregelen genomen om gevoelige informatie te beperken en heeft chattranscripties onder bewaring geplaatst.

OpenAI heeft nieuwe veiligheidsmetingen bekendgemaakt voor de GPT-5.1 Instant en GPT-5.1 Thinking-modellen. De updates omvatten uitgebreidere evaluaties voor mentale gezondheid en emotionele afhankelijkheid. De modellen zijn ontworpen om beter te reageren op instructies en aan te passen aan de complexiteit van vragen.

OpenAI heeft samen met meer dan 170 psychologen en psychiaters gewerkt aan het verbeteren van ChatGPT’s vermogen om te herkennen en empathisch te reageren op tekenen van stress, en gebruikers te begeleiden naar echte wereldondersteuning. De updates hebben het aantal onveilige antwoorden met tot 80% verlaagd. De verbeteringen richten zich op drie gebieden: gevoelige gesprekken over zelfbeschadiging en zelfdoding, emotionele afhankelijkheid van het systeem en reacties op ongegronde overtuigingen. De nieuwe versie van GPT-5 toont aanzienlijke verbeteringen in veiligheid en consistentie van antwoorden, met ondersteuning van een globale netwerk van artsen en psychologen.

OpenAI heeft een addendum gepubliceerd tot de GPT-5-systeemkaart, waarin verbeteringen in het hanteren van gevoelige gesprekken worden beschreven. De update, die op 3 oktober is uitgerold, verbetert de herkenning van tekenen van psychische en emotionele problemen en verlaagt onwenselijke reacties met 65-80 procent. Het document bevat ook veiligheidsevaluaties die de prestaties van de oude en nieuwe versie van ChatGPT vergelijken.

OpenAI heeft een Expert Council op het gebied van welzijn en AI ingesteld, bestaande uit vooraanstaande psychologen, klinici en onderzoekers. Deze groep adviseert hoe ChatGPT en Sora kunnen bijdragen aan emotionele gezondheid, met een speciale aandacht voor jongeren. De experten helpen bij het definiëren van gezonde interacties met AI en geven input bij het ontwikkelen van functies zoals ouderbeperkingen.

OpenAI bespreekt hoe ChatGPT wordt aangepast om mensen in ernstige mentale of emotionele crisis beter te ondersteunen. De afgelopen tijd zijn er verdrietige gevallen geweest waarbij gebruikers ChatGPT gebruikten tijdens acute crisissen, waardoor OpenAI besloot nu al meer informatie te delen. ChatGPT is getraind om niet te voldoen aan zelfbeschadiging en om gebruikers te begeleiden naar hulp. Daarnaast wordt er gewerkt aan verbeteringen in de detectie van risico's en het versterken van beveiligingsmaatregelen, met name in lange conversaties. In augustus is GPT-5 gelanceerd, wat verbeteringen oplevert in het verminderen van emotionele afhankelijkheid en het verminderen van risicovolle antwoorden in crisissituaties.

OpenAI werkt aan het optimaliseren van ChatGPT om gebruikers te helpen in moeilijke situaties, met functies zoals herinneringen om pauzes te nemen en betere levensadvies. Ze richten zich op het geven van ondersteuning in plaats van aandacht te houden, en werken samen met experts om het product beter te maken voor persoonlijke en medische situaties.

OpenAI en het MIT Media Lab hebben studies uitgevoerd om te onderzoeken hoe het gebruik van ChatGPT invloed heeft op de emotionele welzijn van gebruikers. De studies tonen aan dat emotioneel gericht gebruik van ChatGPT zeldzaam is en dat het effect van het gebruik afhankelijk is van de manier waarop gebruikers met het model omgaan en hun persoonlijke omstandigheden. Bovendien wijzen de resultaten erop dat het gebruik van de stemmodus gemengde effecten heeft op het welzijn, afhankelijk van de duur van het gebruik.