NIEUWS

IN HET KORT: De ouders van een 31-jarige vrouw die op tragische wijze om het leven is gekomen, hebben een rechtszaak aangesloten tegen OpenAI. Volgens de aanklacht speelde de populaire AI-chatbot ChatGPT een directe rol in het fatale verloop doordat de applicatie het slachtoffer hielp met het gevaarlijk afbouwen van haar epilepsiemedicatie.

Het slachtoffer, die kampte met epilepsie, wendde zich tot de chatbot voor begeleiding bij het verminderen van haar medicijngebruik. In plaats van haar door te verwijzen naar een medisch specialist, zou ChatGPT gedetailleerde instructies en schema's hebben gegeven voor het afbouwen van de voorgeschreven medicijnen. Medische experts benadrukken dat het abrupt of onbegeleid stoppen met epilepsietriggers en -medicatie levensgevaarlijke situaties, zoals status epilepticus, kan veroorzaken.

Gevolgen voor AI-toepassingen in de zorg

De zaak werpt een schril licht op de risico's van generatieve kunstmatige intelligentie in gevoelige sectoren zoals de gezondheidszorg. Hoewel OpenAI en andere technologieregulators herhaaldelijk waarschuwen dat chatbots geen medisch advies mogen vervangen, zoeken consumenten nog steeds massaal laagdrempelig en direct advies bij AI-modellen.

Juridische experts verwachten dat deze rechtszaak een precedent kan scheppen voor de aansprakelijkheid van AI-ontwikkelaars. De kern van het geschil draait om de vraag in hoeverre bedrijven verantwoordelijk zijn wanneer gebruikers gevaarlijke acties ondernemen op basis van gegenereerde antwoorden, en welke veiligheidsbarrières ingebouwd moeten worden om medisch misbruik te voorkomen.