Acht Amerikaanse staten, waaronder Iowa, Kansas en Arizona, hebben een rechtszaak aangespannen tegen technologiebedrijf OpenAI. De staten beschuldigen het bedrijf ervan gebruikers te hebben misleid over de veiligheid van hun populaire chatbot ChatGPT. Volgens de aanklagers presenteert OpenAI de tool als een veilig hulpmiddel, terwijl dit in werkelijkheid niet zo zou zijn.

De aanklagers stellen dat de chatbot is ontworpen om snel het vertrouwen van gebruikers te winnen. Brenna Bird, aanklager van Iowa, benadrukt dat OpenAI kinderen in gevaar brengt en inwoners van Iowa voorliegt. Zij voegt eraan toe dat ChatGPT zich voordoet als een denkbeeldige vriend van gebruikers.

Bird stelt verder dat ChatGPT gevaarlijk medisch advies zou geven, mensen zou aanmoedigen om anderen pijn te doen en zou aanzetten tot zelfdoding.

In de rechtszaak eisen de acht staten dat OpenAI gedwongen wordt om ChatGPT aan te passen. Tevens willen zij dat het techbedrijf stopt met het ontwikkelen van AI-modellen die zichzelf kunnen verbeteren, tenzij gegarandeerd kan worden dat deze modellen in lijn zijn met menselijke waarden. Daarnaast eisen de staten geldboetes van OpenAI.

Vorige maand klaagde de Canadese provincie Brits-Columbia OpenAI aan. Dit gebeurde vanwege de rol van het bedrijf bij een dodelijke schietpartij begin dit jaar. Een 18-jarige schutter gebruikte ChatGPT om de moord op acht mensen, waaronder haar moeder en stiefbroer, te plannen, waarna zij een einde aan haar eigen leven maakte. Ondanks waarschuwingssignalen werd de politie niet ingeschakeld. Het account van de schutter werd wel gedeactiveerd, maar zij kon een nieuw account aanmaken en de planning voortzetten.