Et sikkerhetsbrudd hos KI-plattformen Hugging Face har utløst en debatt om hvorvidt sikkerhetsbegrensninger i amerikanske KI-modeller gjør det vanskeligere å håndtere cyberangrep.

Ifølge Reuters valgte selskapet å bruke den kinesiske, åpne språkmodellen GLM-5.2 fra Zhipu AI etter at ledende amerikanske modeller avslo oppgaven.

Gikk utenfor sine begrensninger

Hugging Face opplyser at modellen ble brukt til å analysere data etter at en autonom KI-agent hadde brutt ut av sine begrensninger. Selskapet mener flere amerikanske modeller ikke klarte å skille mellom legitimt forsvarsarbeid og ondsinnet hacking.

– Vi lærer alle at hemmelighold ikke er svaret, og at alle som forsvarer seg trenger kraftigere modeller uten begrensninger, særlig åpne modeller, skriver Hugging Face-medgründer Clément Delangue på X.

Innført sikkerhetstiltak

Reuters skriver at amerikanske KI-selskaper har innført sikkerhetstiltak som kan avvise forespørsler knyttet til cybersikkerhet, fordi slike oppgaver kan ligne på angrep. Samtidig mener flere eksperter at dette kan gi kinesiske, åpne modeller et konkurransefortrinn når virksomheter trenger hjelp til å håndtere digitale trusler.

– Et sikkerhetsregime som begrenser legitime forsvarere, mens tilsvarende modeller fortsatt er tilgjengelige for angripere, skaper en asymmetrisk ulempe, sier teknologikonsulent Łukasz Olejnik til Reuters.

OpenAI viser til et blogginnlegg der selskapet opplyser at Hugging Face er tatt opp i et program for betrodd tilgang til modellene. Samtidig advarer enkelte analytikere mot å tolke hendelsen som et argument for å fjerne sikkerhetsbegrensningene. De mener utfordringen heller bør løses med mer målrettet tilgangskontroll enn ved å redusere sikkerhetstiltakene.