Donald Trump og toppene i noen av verdens største teknologiselskaper har satt navnene sine på en ny avtale om sikker utvikling av kunstig intelligens. Avtalen innebærer blant annet ekstern kontroll av selskapenes mest avanserte KI-modeller.
Trump publiserte tirsdag kveld dokumentet «White House Accord on Super Intelligence» på Truth Social etter et møte med en rekke teknologitopper i Det hvite hus.
På den andre siden står underskriftene til Trump og seks av de mektigste navnene i KI-industrien: Google-sjef Sundar Pichai, Anthropic-sjef Dario Amodei, Meta-sjef Mark Zuckerberg, OpenAI-president Greg Brockman, xAI-grunnlegger Elon Musk og Nvidia-sjef Jensen Huang.
Avtalen følger etter et møte mellom Trump og teknologitoppene i Det hvite hus tidligere på dagen.
– Vi hadde et veldig godt møte, svært produktivt og ekstremt vennlig, sa Trump etterpå.
Presidenten beskrev menneskene rundt seg som noen av de mest briljante i verden, og slo fast at USA etter hans syn har skaffet seg et betydelig forsprang innen KI.
– Vi har en veldig stor ledelse, og vi skal beholde den, sa Trump.
Han trakk også de store linjene rundt hva teknologien kan bety.
– Det er noen som sier at dette er større enn den industrielle revolusjonen. Jeg vet ikke om det er tilfelle, men alle ser ut til å mene det, og det kan bli betydelig større.
Fire lag med kontroll
I avtalen slås det fast at selskapene selv har ansvar for å utvikle teknologien på en sikker måte og sørge for at problemer raskt blir oppdaget og rettet.
Det skal skje gjennom fire lag med kontroll.
Først skal selskapene ha omfattende interne systemer som overvåker hva modellene er i stand til å gjøre, både under trening og når de tas i bruk.
Dokumentet trekker spesielt fram cybersikkerhet, biologisk sikkerhet og kjemiske trusler. Kontrollene skal også hindre at modellene hacker eller får tilgang til tekniske systemer på utilsiktede måter.
Deretter skal et eget internt team kontrollere at sikkerhets-, overvåkings- og deteksjonssystemene faktisk fungerer, og sørge for at problemer blir rettet.
Slipper eksterne kontrollører inn
Det tredje punktet innebærer at selskapene ikke bare skal kontrollere seg selv.
De forplikter seg til å samarbeide med en uavhengig ekstern revisor eller evaluator som skal vurdere om sikkerhetssystemene fungerer som de skal.
På toppen av dette skal hvert selskap opprette en uavhengig komité på styrenivå.
Denne skal motta rapporter fra både selskapets egne kontrollteam og interne og eksterne revisorer og evaluatorer. Komiteen får også ansvar for å følge opp at problemer som blir avdekket, faktisk blir rettet.
Selskapene skal i tillegg møtes regelmessig for å utvikle felles standarder og beste praksis for sikkerheten rundt systemene.
Trump vil ha selvregulering
Under møtet fikk Trump spørsmål om synet blant KI-toppene var at teknologien ikke trenger sikkerhetsgrenser eller offentlig regulering.
Trump svarte at det var stor tro på selvregulering.
– Det er en oppfatning om at det bør være en enorm grad av selvregulering, sa han.
Presidenten viste samtidig til at myndighetene allerede har kontroll gjennom blant annet justisdepartementet og FBI.
– Men selvreguleringen er svært viktig, la han til.
Det samsvarer med oppbyggingen av den nye avtalen, der hovedansvaret for kontrollen legges på selskapene selv, samtidig som uavhengige eksterne aktører skal trekkes inn.
Kan ende som lov
Avtalen trenger imidlertid ikke forbli frivillig.
Helt mot slutten av dokumentet åpnes det uttrykkelig for at kravene senere kan bli en del av amerikansk lov eller regelverk.
«På sikt kan det være hensiktsmessig å lovfeste disse tiltakene eller gjøre dem til en del av regelverket», heter det i dokumentet.
Samtidig understrekes det at selskapene mener kontrollene bør gjennomføres uavhengig av om myndighetene krever det.
Trump sa etter møtet at det hadde vært en uvanlig stor grad av enighet rundt bordet.
– Det var utrolig mye vi var enige om i dette rommet. Det var ganske bemerkelsesverdig, sa han.
Presidenten avsluttet med å si at teknologitoppene ønsker «å gjøre de riktige tingene».
Dette har Trump og KI-toppene skrevet under på
Det hvite hus-avtalen om superintelligens
Felles forpliktelse om ansvar for banebrytende KI-teknologi
For å bygge en positiv framtid for det amerikanske folket og verden mener vi at hvert selskap har ansvar for å utvikle sin egen teknologi på en sikker måte og på en måte som bygger tillit hos kunder og offentligheten.
Dette begynner med at alle selskaper som trener og tar i bruk banebrytende modeller, har solide interne prosesser og kontrollsystemer som sikrer at teknologien oppfører seg som tiltenkt, og at eventuelle problemer raskt blir oppdaget og løst.
Derfor mener vi at hvert selskap, i tillegg til andre forholdsregler, bør innføre følgende fire nivåer med kontroll og revisjon:
1. Interne sikkerhetskontroller
Innføre solide interne kontrollsystemer for å overvåke modellenes evner og tilpasning under trening og bruk på områder som cybersikkerhet, biologisk sikkerhet og kjemiske trusler. Selskapene skal også sørge for at modellene ikke hacker eller får tilgang til tekniske systemer på måter som ikke var tilsiktet.
2. Eget kontrollteam
Gi et internt team ansvar for å sikre at alle kontroll-, overvåkings- og deteksjonssystemer fungerer som tiltenkt, og at eventuelle problemer som blir oppdaget, blir rettet.
3. Uavhengig ekstern kontroll
Samarbeide med en uavhengig ekstern revisor eller evaluator som skal foreta selvstendige vurderinger av om kontroll-, overvåkings- og deteksjonssystemene fungerer som tiltenkt.
4. Uavhengig komité i styret
Opprette en uavhengig komité i styret som skal føre tilsyn og motta rapporter fra teamene som håndterer kontrollsystemene, samt fra interne og eksterne revisorer og evaluatorer. Komiteen skal også sørge for at eventuelle problemer som blir avdekket, blir rettet.
Samlet vil disse tiltakene gi hvert selskap, deres kunder og offentligheten trygghet for at teknologien fungerer som tiltenkt.
De deltakende selskapene skal møtes regelmessig for å etablere standarder og beste praksis for å forbedre sikkerheten i systemene sine.
På sikt kan det være hensiktsmessig å lovfeste disse tiltakene eller gjøre dem til en del av regelverket. Uavhengig av om dette kreves av selskapene, mener vi at innføring av disse kontrollene og revisjonene er avgjørende for å sikre en trygg framtid for alle, og hvert av våre selskaper forplikter seg til å gjøre dette.
Underskrevet av:
Donald J. Trump – USAs president
Sundar Pichai – Google
Dario Amodei – Anthropic
Mark Zuckerberg – Meta
Greg Brockman – OpenAI
Elon Musk – xAI
Jensen Huang – Nvidia
Oversatt til norsk fra dokumentet «White House Accord on Super Intelligence», publisert av Donald Trump på Truth Social.
Artikkelen er bygget på dokumentet «White House Accord on Super Intelligence», publisert av Donald Trump på Truth Social tirsdag, og transkripsjonen av Trumps uttalelser etter møtet i Det hvite hus.