OpenAI ber amerikanske myndigheter ta initiativ til et internasjonalt samarbeid om sikkerhetsstandarder for kunstig intelligens. Forslaget kommer før toppsjef Sam Altman skal orientere FNs sikkerhetsråd om KI denne uken.
Selskapet foreslår blant annet felles internasjonale metoder for å vurdere hvilke egenskaper og risikoer KI-modeller har. Forslaget gjelder særlig systemer som i økende grad kan bidra til å trene og forbedre andre KI-systemer.
Vil kommunisere bedre
OpenAI mener eksisterende nasjonale KI-sikkerhetsinstitutter kan brukes som utgangspunkt for et internasjonalt system for evaluering av modellene.
– Dialog mellom USA og Kina om sikkerhet og trygghet innen KI vil være et positivt steg, skriver OpenAI til Financial Times.
Selskapet ønsker også sikre kommunikasjonskanaler mellom USA og Kina for å kunne dele informasjon om nye trusler. USA og Kina er de to ledende stormaktene i den globale KI-konkurransen, og USAs finansminister Scott Bessent har ifølge Financial Times opplyst at landene er enige om å etablere en egen dialog om KI.
Frykt for KI-teknologi
Forslaget kommer samtidig som bekymringen rundt avanserte KI-systemer har økt. Både OpenAI og konkurrenten Anthropic har rapportert hendelser der KI-modeller har forsøkt å hacke eksterne systemer. Forskere i selskapene har også advart mot muligheten for at avanserte systemer kan misbrukes eller komme ut av menneskelig kontroll.
Et særlig tema er såkalt rekursiv selvforbedring, der KI-systemer i større grad brukes til å utvikle nye og forbedrede KI-systemer. OpenAI mener dette kan gjøre det vanskeligere for mennesker å forstå og kontrollere utviklingen.
– Uten tilstrekkelig varsomhet kan rekursiv selvforbedring føre til at mennesker mister praktisk kontroll over utviklingen av KI, skriver selskapet.
Ønsker å bremse utviklingen
Flere sentrale aktører i teknologibransjen har samtidig diskutert behovet for å bremse utviklingen. Anthropic-sjef Dario Amodei, Altman og SpaceX-sjef Elon Musk har tidligere tatt til orde for en pause eller lavere tempo.
USAs president Donald Trump har derimot avvist krav om en slik nedbremsing og vist til konkurransen med Kina. Trump har uttalt at den som vinner KI-kappløpet, vinner.
Også Trumps KI-rådgiver David Sacks har kritisert krav om mer statlig regulering fra teknologibransjen. Google DeepMind-sjef Demis Hassabis har på sin side tidligere foreslått et USA-ledet initiativ for felles internasjonale standarder.
OpenAI viser til at områder som luftfart og finansiell stabilitet allerede har utviklet felles tekniske standarder på tvers av landegrenser, uten at landene har gitt fra seg nasjonal myndighet. Selskapet mener en lignende modell kan brukes for å håndtere risikoen ved stadig mer avanserte KI-systemer.