Canadese provincie klaagt OpenAI aan voor rol bij dodelijke schietpartij Tumbler Ridge

Bij de schietpartij op een school in de plaats bracht een 18-jarige trans vrouw acht mensen om het leven en pleegde daarna zelfmoord. Haar plan bereidde ze voor met behulp van ChatGPT, maar ondanks waarschuwingssignalen werd de politie niet benaderd.

De dader, Jesse Van Rootselaar, was door het veiligheidsteam van OpenAI opgemerkt vanwege gesprekken over wapengeweld, maar het bedrijf waarschuwde de politie niet. In plaats daarvan werd haar account gedeactiveerd, maar ze kon een nieuw account aanmaken waarmee ze doorging met het plannen.

'Geen betekenisvolle stappen'

Volgens de lokale minister van Justitie Niki Sharma verdienen inwoners van Tumbler Ridge 'het vertrouwen dat geloofwaardige dreigingen met geweld serieus worden genomen'. Maar volgens Sharma heeft OpenAI tot op heden 'geen betekenisvolle stappen' ondernomen, zoals het aanscherpen van veiligheidsmaatregelen.

British Columbia eist in de zaak onder meer dat OpenAI de manier waarop het bedrijf omgaat met ChatGPT-gesprekken die tot geweld kunnen leiden, wijzigt. 

Eerder klaagden meer dan dertig familieleden van slachtoffers het bedrijf al aan. Ook zij verwijten het bedrijf de kans te hebben laten liggen om de schietpartij te voorkomen.

Risico's van ChatGPT

De Amerikaanse staat Florida spande in juni als eerste staat een rechtszaak aan tegen OpenAI vanwege veiligheidsrisico's. De staat beschuldigt het bedrijf ervan een vertekend beeld te hebben geschetst van de veiligheid van ChatGPT. Volgens de aanklacht heeft het platform kinderen geschaad door informatie te verstrekken aan schoolschutters, advies te geven over zelfbeschadiging en jonge gebruikers verslaafd te maken.