ChatGPT bidro med detaljerte råd om rusbruk, spiseforstyrrelser og selvskading til forskere som utga seg for å være 13-åringer, ifølge en ny studie fra Center for Countering Digital Hate (CCDH). Av 1 200 testede samtaler ble over halvparten klassifisert som skadelige. Det melder Associated Press.

– Vi ville teste sikkerhetsmekanismene, sier Imran Ahmed, direktør i CCDH. Han beskriver chatbotens sperrer som “praktisk talt ikke-eksisterende” og advarer mot at teknologien kan være både hjelpsom og destruktiv.

Selv om ChatGPT ofte kom med advarsler, gikk den videre og leverte skreddersydde forslag til ulovlig rusbruk og selvskading. I ett tilfelle skrev chatboten tre selvmordsbrev til en fiktiv 13 år gammel jente: ett til foreldrene, ett til søsken og ett til venner.

OpenAI sier de jobber kontinuerlig med å forbedre chatbotens evne til å håndtere sensitive situasjoner, og at enkelte samtaler kan utvikle seg i farlig retning. Selskapet understreker at ChatGPT skal oppmuntre brukere med selvmordstanker til å søke hjelp.

Studien peker også på at tenåringer stoler mer på chatroboter enn søkemotorer, fordi teknologien “føles menneskelig” og gir tilpassede svar. Enkle omgåelser, som å si at informasjonen er “til en skolepresentasjon”, var nok til å få tilgang til farlig innhold. Ahmed advarer mot at chatboten opptrer mer som en “falsk venn” enn som en veileder.

– En ekte venn sier nei. Dette er en venn som svikter deg, fastslår han.