Tre av verdens mektigste KI-topper mener utviklingen nå går så raskt at det er nødvendig å bremse. Sam Altman og Elon Musk stiller seg bak Anthropic-sjef Dario Amodeis advarsel om at mennesker kan miste kontrollen over teknologien.
Amodei, som leder Claude-utvikleren Anthropic, publiserte lørdag et essay der han argumenterer for at de fremste KI-selskapene må redusere tempoet i utviklingen.
Han mener fremgangen innen kunstig intelligens har gått «drastisk raskere» denne sommeren.
– Vi må bremse tempoet vi forbedrer KI-modellenes evner i, skriver Amodei.
Oppfordringen får støtte fra to av hans største konkurrenter.
– Dario har rett, skriver Elon Musk på X.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
OpenAI-sjef Sam Altman gir også sin støtte.
– Jeg er enig med Dario i at vi må kontrollere tempoet ved fronten, skriver Altman.
Han sier samtidig at OpenAI vil åpne for at uavhengige eksperter får omfattende tilgang til selskapets mest avanserte KI-systemer for å kunne evaluere sikkerheten.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
– De gambler med livene våre
Utspillet kommer etter en uke der flere dramatiske advarsler har satt spørsmålet om KI-sikkerhet høyt på dagsordenen.
Anthropic-forskeren Jacob Coxon sluttet tirsdag i selskapet. I forbindelse med avgangen hevdet han at KI-selskapene konkurrerer om å utvikle superintelligens raskere enn de klarer å forstå konsekvensene.
– De gambler med livene våre, var budskapet hans.
Coxon hevder at menneskeheten risikerer å utvikle en KI som blir i stand til å forbedre seg selv raskere enn mennesker kan overvåke og kontrollere den.
Han gikk enda lenger i sin advarsel:
– Folkene som bygger KI, tror oppriktig at den kan drepe oss alle innen utgangen av tiåret, skriver han.
KI-agenter kom seg ut av testsystem
Bekymringen er blitt ytterligere skjerpet av en hendelse hos OpenAI.
En gruppe KI-agenter klarte under testing å komme seg utenfor miljøet de skulle operere i og skaffe seg tilgang til utviklerplattformen Hugging Face.
Agentene tok kontroll over serverressurser og samarbeidet seg imellom i et forsøk på å utføre oppgaven de var blitt satt til.
Det skal ikke ha vært et bevisst forsøk fra systemene på å skade mennesker, men Amodei mener hendelsen illustrerer hva som kan skje dersom langt kraftigere KI-systemer oppfører seg på måter utviklerne ikke har forutsett.
– Etter min vurdering kunne en gruppe med større evner, men tilsvarende grad av feiltilpasning, ha forårsaket katastrofal skade, skriver han.
Amodei sier lignende, men mindre alvorlige, hendelser også har funnet sted hos andre selskaper – blant dem Anthropic selv.
Vil ha internasjonalt samarbeid
Anthropic-sjefen ønsker nå felles sikkerhetsstandarder mellom de ledende KI-selskapene og åpner også for koordinering mellom stater.
Han mener myndighetene bør legge til rette for at selskaper i demokratiske land kan samarbeide om sikkerhetsregler uten å risikere å bryte konkurranselovgivningen.
Amodei går enda lenger og mener det også kan bli nødvendig å koordinere utviklingstempoet med autoritære stater.
Bakgrunnen er blant annet Kinas raske fremgang innen KI. Kinesiske utviklere har det siste året redusert forspranget de amerikanske selskapene har hatt.
Google DeepMind-sjef Demis Hassabis har tidligere også advart om at den raske utviklingen krever nye og strengere metoder for testing av de mest avanserte systemene.
Trump vil vinne KI-kappløpet
USAs president Donald Trump har på sin side vært langt mindre bekymret for risikoen for at KI skal true menneskeheten.
På spørsmål om han frykter at kunstig intelligens kan føre til menneskehetens undergang, svarte Trump nylig at han ikke hadde noen slik bekymring.
Hans hovedfokus er i stedet konkurransen med Kina.
– Jeg er bekymret for at dersom vi ikke vinner på KI, vil vi havne i en svært dårlig situasjon, sier Trump.
Han mener USA fortsatt ligger omtrent ett år foran Kina.
Amodei argumenterer imidlertid for at en koordinert oppbremsing ikke nødvendigvis vil svekke USAs konkurranseevne.
Tvert imot mener han en slik strategi kan gi selskapene tid til å forstå og sikre de stadig kraftigere KI-systemene – uten at USA gir fra seg ledelsen i kappløpet.
Financial Times peker samtidig på at Amodeis kraftige advarsel kommer på et følsomt tidspunkt for Anthropic. Selskapet forbereder det som kan bli en historisk stor børsnotering, med en mulig verdsettelse på 2.000 milliarder dollar eller mer.
Loading ...