Californias guvernør Gavin Newsom ber delstatens justisminister Rob Bonta om å etterforske Elon Musks KI-selskap xAI, etter en bølge av KI-genererte, seksualiserte bilder på X. Det skriver Reuters.

Utspillet regnes som det hittil mest alvorlige fra amerikanske myndigheter i kampen mot ikke-samtykkebasert sexvideo-innhold generert av kunstig intelligens, ifølge Reuters.

Tar saken på alvor

Presset mot Musk øker samtidig internasjonalt. Politikere og interesseorganisasjoner har tatt til orde for at Apple og Google bør fjerne KI-verktøyet Grok fra sine appbutikker. Saken kommer på toppen av en bredere debatt om plattformansvar og regulering av generativ KI.

Musk har først ledd av kontroversen offentlig og svart med spøkefulle emojier på brukeres kommentarer om strømmen av seksualiserte bilder. Senere har X opplyst at selskapet tar meldinger om overgrepsmateriale mot barn på største alvor og håndhever reglene strengt.

Tidligere onsdag avviste Musk at Grok har generert nakenbilder av mindreårige.
– Jeg er ikke klar over noen nakne bilder av mindreårige generert av Grok. Bokstavelig talt null, sier Musk.

Kan få betydning for senere AI-regulering

X har ikke svart på Reuters’ spørsmål om Californias varslede grep eller Musks uttalelser. Heller ikke xAI har besvart henvendelser om delstatens reaksjoner eller påstanden om manglende kjennskap til slikt innhold.

Da Reuters kontaktet xAI, mottok nyhetsbyrået i stedet et automatisk standardsvar rettet mot pressen.
– Legacy Media Lies.

Ifølge Reuters markerer Californias initiativ et tydelig skifte i tonen fra amerikanske myndigheter. Etterforskningen kan få betydning for hvordan teknologiselskaper holdes ansvarlige for KI-generert innhold på sosiale plattformer, særlig når det gjelder overgrep, trakassering og brudd på personvern.