I et halvt århundre har Geoffrey Hinton har jobbet med teknologien som nå brukes til kunstig intelligens. Nå har han sagt opp jobben hos Google for å kunne advare mot teknologien han selv var med på å utvikle.

Hinton har åpnet opp og delt sine bekymringer i et intervju med The New York Times.

Etter at OpenAI ga ut en ny versjon av den populære tjenesten ChatGPT i mars, signerte mer enn 1000 teknologiledere og forskere et åpent brev som ba om en seks måneders pause for utviklingen av kunstig intelligens, og viste til en «økende risiko for samfunnet og menneskeheten.»

Geoffrey Hinton, ofte kalt «Gudfaren til A.I.», valgte å ikke signere brevet, og sa han ikke ønsket å offentlig kritisere Google eller andre selskaper så lenge han selv var ansatt hos de. Derfor har han nå valgt å si opp jobben hos Google, hvor han har jobbet i over ti år.

Hinton er en 75 år gammel britisk utvandrer til USA med utdanning fra universitetet i Edinburg. Han har jobbet med kunstig intelligens siden 1980-tallet.

I 2012 utviklet Hinton og to av studentene hans et nevralt nettverk som kunne analysere tusenvis av bilder og lære seg å identifisere vanlige gjenstander, som blomster, hunder og biler.

Les også: Elev leverte tekst skrevet av AI: Fikk karakter 5

Google brukte 44 millioner dollar på å kjøpe opp selskapet Hinton startet sammen med de to studentene. Teknologien deres har i ettertid blitt brukt til utviklingen av blant annet chatbots som ChatGPT og Google Bard.

Hinton opplever utviklingens tempo som skremmende.

– Se hvordan teknologien var for fem år siden, og sammenlign det med hva vi har i dag. Om man ekstrapolerer denne raske utviklingen frem i tid, har vi god grunn til å være bekymret, sie han.

Les også: Kunstig intelligens: Advarer om katastrofale konsekvenser

Frem til nylig har Hinton ansett kunstig intelligens som klart underlegen sammenlignet med menneskehjernen. Det var frem til i fjor, da Google og OpenAI bygde systemer med mye større datamengder.

Hinton trodde fortsatt at systemene var dårligere enn den menneskelige hjernen på noen måter, men at de overskygget menneskelig intelligens på andre områder.

– Inntil i fjor fungerte Google som en «forsvarlig forvalter» for teknologien, og var forsiktig med å frigi noe som kan forårsake skade. Men nå som Microsoft har utvidet sin Bing-søkemotor med en chatbot – som utfordrer Googles kjernevirksomhet – prøver Google å implementere samme type teknologi, forteller Hinton.

Han mener teknologigigantene er låst i en konkurranse som kan være umulig å stoppe.

Googles sjefforsker, Jeff Dean, har sagt i en uttalelse: «Vi er fortsatt forpliktet til en ansvarlig tilnærming til kunstig intelligens. Vi lærer kontinuerlig å forstå nye risikoer, samtidig som vi innoverer dristig.»

Frykter en rekke konsekvenser

Det Hinton bekymrer seg for først og fremst, er at internett vil bli oversvømmet med falske bilder, videoer og tekst, og den gjennomsnittlige personen vil «ikke kunne vite hva som er sant lenger».

På sikt er han også bekymret for at teknologien vil ha en skadelig effekt på arbeidsmarkedet. Foreløpig mener han kunstig intelligens fungerer fint som et redskap for arbeidere, men etterhvert vil teknologien kunne erstatte arbeiderne.

Den største faren med slik teknologi, er ifølge Hinton at kunstig intelligens kan bli smartere enn mennesker og utvikle uforutsett atferd. Dette kan skje dersom kunstig intelligens får endre og utvikle sin egen koding. På dette tidspunktet kan vi risikere at kunstig intelligens skaper selvbevisste våpen, som vi ofte ser i science-fiction.

– De fleste har sett for seg at det ville ta 40-50 år før kunstig intelligens kan bli smartere enn mennesker. Jeg var selv en av de som trodde dette. Men nå tror jeg selvfølgelig ikke det lenger, sier Hinton.

Videre sier han at han tror et kappløp mellom Google, Microsoft og andre aktører vil kunne eskalere til et globalt kappløp som ikke vil stoppe uten en slags global regulering.

Hinton tror derimot at tilstrekkelige globale reguleringer vil være umulig å oppnå.

– I motsetning til atomvåpen er det ingen måte å vite om selskaper eller land jobber med teknologien i det skjulte. Vårt beste håp er om verdens ledende forskere samarbeider om måter å kontrollere teknologien på.

Til The New York Times forteller Hinton at deler av ham angrer på det han har viet livet til.

– Jeg trøster meg med den vanlige unnskyldningen: Hadde ikke jeg gjort det, ville noen andre ha gjort det.