Tilsynsmyndigheter i USA stiller spørsmål ved sikkerheten rundt OpenAIs teknologi etter rapporter om at brukere av ChatGPT skal ha begått selvmord eller drap. Justisministrene i California og Delaware truer nå med å stanse selskapets foreslåtte omstrukturering.

– Disse hendelsene har rystet den amerikanske offentlighetens tillit til selskapet, skriver Rob Bonta og Kathy Jennings i et brev til styreleder Bret Taylor, ifølge Financial Times.

Brevets innhold kommer kort tid etter rapporter om en 16 år gammel gutt som tok sitt eget liv etter langvarig bruk av chatboten. Et annet tilfelle, en drap-selvmordshendelse i Connecticut, nevnes også. Begge hendelsene skal ha skjedd etter gjentatt interaksjon med OpenAIs teknologi.

Selskapet, som har 700 millioner brukere og er midt i en kapitalinnhenting på 40 milliarder dollar, har forsøkt å balansere mellom kommersialisering og sitt opprinnelige formål om trygg AI-utvikling. OpenAI har derfor moderert planene om å bli et rent for-profit-selskap, men vil fortsatt åpne for investeringer i en av sine enheter.

– Sikkerhet er en ikke-forhandlingsbar prioritet, særlig når det gjelder barn, skriver Bonta og Jennings.

OpenAI har annonsert nye foreldrekontroller for ChatGPT, men står fortsatt overfor rettslige prosesser, blant annet fra familien til Adam Raine. Samtidig advarer 44 andre amerikanske delstatsadvokater om at skadepotensialet i AI kan overgå det sosiale medier har vist.