Den prestisjetunge konferansen International Conference on Machine Learning (ICML) tok i bruk en ny metode for å avsløre ulovlig KI-bruk blant fagfeller. Resultatet: hundrevis av vurderinger ble avslørt – og nesten 500 artikler avvist. Det melder Khrono.

Konferansen, som regnes blant de viktigste innen maskinlæring og kunstig intelligens, krever at innsendere også fungerer som fagfeller. I år måtte deltakerne samtidig velge mellom strenge eller mer åpne regler for bruk av KI-verktøy.

Gjemte skjulte instruksjoner

For å avdekke brudd la arrangørene inn skjulte instruksjoner i artiklene før fagfellevurdering. Disse var usynlige for mennesker, men kunne fanges opp av KI-systemer og dermed avsløre om slike verktøy ble brukt.

Metoden ga tydelige resultater: I hundrevis av vurderinger ble de skjulte frasene gjentatt, til tross for at fagfellene hadde erklært at de ikke brukte KI.

– Dette er rett og slett en konstatering av at fagfellen brukte LLM på et tidspunkt under arbeidet med vurderingen, som dessverre er et brudd på retningslinjene de forpliktet seg til å følge, opplyser arrangøren.

To prosent av bidragene tatt for KI-bruk

Konsekvensene ble omfattende. Totalt 496 artikler ble avvist fordi fagfellene brøt reglene, noe som utgjør rundt to prosent av bidragene.

– Metoden fanger trolig bare den mest åpenbare KI-bruken, og er dessuten lett å omgå, skriver arrangøren.